미국 기업들이 AI 사용료 폭증에 제동을 걸기 시작했다. 2025년 초만 해도 직원들에게 AI를 마음껏 쓰라고 독려하던 기업들이 이제는 돈이 어디로 새는지부터 파악하느라 분주하다.
AI 서비스는 대부분 '토큰' 단위로 요금을 매긴다. 토큰은 AI가 글을 읽고 쓸 때 처리하는 최소 단위로 영어 기준 단어 하나의 4분의 3 정도다. 질문을 많이 던지고 긴 답을 받을수록 토큰 소모가 늘고 비용도 커진다.
가장 극단적인 사례는 익명의 한 대기업이다. 직원용 AI 계정에 사용 한도를 걸어두지 않은 탓에 한 달 만에 앤트로픽의 'Claude' 사용료로 5억 달러가 청구됐다고 한 AI 컨설턴트가 매체 악시오스(Axios)에 전했다. 어떤 직원은 AI로 날씨를 확인하는 데까지 비싼 도구를 썼다고 한다.
차량호출업체 우버는 올해 쓸 AI 코딩 도구 예산을 4월에 전부 소진했다. 우버 최고기술책임자 프라빈 네팔리 나가는 필요할 것이라 예상한 예산이 이미 날아갔다며 처음부터 다시 계획을 짜야 한다고 토로했다.
우버는 직원 한 명이 도구 하나당 월 1500달러까지만 쓰도록 한도를 새로 걸었다. 일부 엔지니어는 한도 도입 전 월 500~2000달러어치 토큰을 태우고 있었다.
마이크로소프트는 윈도와 오피스 등을 만드는 사업부에서 코딩 도구 'Claude Code' 사용권을 6월 30일자로 회수하기로 했다. 작년 12월 수천 명에게 열어준 지 반년 만이다. 직원들이 자사 도구보다 Claude Code를 더 선호한 데다 비용 부담까지 겹친 결과다.
마이크로소프트는 회계연도가 끝나는 시점에 맞춰 자사 깃허브 코파일럿으로 갈아타도록 했다. 여행예약업체 프라이스라인에서는 AI 코딩 도구 '커서(Cursor)' 계약을 갱신했더니 비용이 4~5배로 뛰었다.
이 회사 IT 재무 담당 임원 크리스 리드는 AI 도구를 두고 일단 써보게 해 중독시킨 뒤 빠져나올 수 없게 만드는 구조라고 표현했다.
토큰 1개당 단가는 오히려 떨어졌다. 그런데도 청구액이 불어난 이유는 '에이전트형 AI' 때문이다. 사람이 일일이 시키지 않아도 여러 단계의 작업을 스스로 처리하는 AI를 말한다. 작업 하나에 토큰을 훨씬 많이 쓴다. 2023년 단순 작업 한 건에 0.04달러였던 비용이 2026년 에이전트 방식에서는 1.20달러 안팎으로 약 30배가 됐다.
비용을 쏟은 만큼 성과가 나는지도 분명하지 않다. 엔지니어링 분석업체 패로스AI가 개발자 2만 명을 2년간 추적한 결과 코드 생산량은 늘었지만 버그와 재작업도 함께 늘었다.
또 다른 분석업체 젤리피시는 토큰을 가장 많이 쓴 개발자가 적게 쓴 쪽보다 생산성은 약 2배 높았지만 토큰은 10배를 썼다고 분석했다. 젤리피시 연구책임자 니컬러스 아르콜라노는 개발자 1인당 토큰 소비가 9개월 만에 약 18.6배로 늘었다고 밝혔다.
이런 상황을 정리할 공통 기준도 마련된다. 리눅스 재단은 이번 주 'AI 토큰경제 재단(Tokenomics Foundation)' 설립 계획을 공개했다. 과거 클라우드(외부 서버 임대) 비용을 통제하는 'FinOps' 규율을 만든 것처럼 AI 토큰 비용에도 같은 규율을 세우겠다는 것이다.
토큰 비용 측정과 청구의 표준, 와트당 토큰 같은 새 지표를 만든다. 구글 마이크로소프트 IBM JP모건 세일즈포스 등이 참여 의사를 밝혔다. 정식 출범은 7월이며 다음 주 샌디에이고에서 열리는 FinOps X 행사에서 추가 회원사를 공개한다. 골드만삭스는 전 세계 토큰 사용량이 2030년까지 24배로 늘어난다고 전망했다.
관련 시장도 형성되고 있다. 페이아이(Pay-i)와 페이드(Paid)는 AI 지출 추적과 가치 기반 과금을 제공한다. 젤리피시 웨이데브 패로스AI는 AI 사용 효과를 입증하는 도구를 내놓았다. 핀테크업체 램프는 AI 지출 관리에 진출했고 데이터독과 뉴렐릭은 토큰 단위 모니터링을 추가했다.
비용 절감의 핵심 수단으로는 '모델 라우팅'이 떠올랐다. 작업 난이도에 따라 값싼 모델로 자동 연결하는 기술이다. 스타트업 팩토리(Factory)는 토큰 비용을 20~25% 줄이는 라우터를 이번 주 선보였다.
(썸네일 사진 출처: 엔비디아 공식 블로그)
BEST 뉴스
-
글 한 줄 안 쓰는 AI, 3주 만에 기업가치 75억 달러? '의사결정 AI' 제브
문장을 만들지 않고 판단만 내리는 AI 모델 '제브(Jev)'를 내놓은 미국 스타트업 타입세이프AI가 출시 한 달도 안 돼 대규모 투자를 유치했다. 타입세이프AI는 9일(현지시간) 8억7000만 달러 규모의 시리즈A 투자를 받았다고 밝혔다. 투자 후 기업가치는 75억 달러다. 시리즈A는 초기 시드 투자 이후 사업 확... -
메타의 부활?…신제품 '뮤즈'가 깨운 CPU 수요
메타플랫폼스가 지난 8일 출시한 개인용 AI 에이전트 '뮤즈(Muse)'가 열흘 만에 애플 앱스토어와 구글플레이 무료 앱 1위에 오르면서 메타 주가와 반도체주가 동반 급등했다. 뮤즈는 질문에 답만 하는 기존 챗봇과 달리 사용자를 대신해 여러 단계의 일을 직접 처리하는 프로그램이다. 이메일 달력 결제 건강 쇼핑 스... -
정답 대신 '푸는 과정' 채점한다…해커랭크 AI 면접관 '차크라' 정식 출시
개발자 채용 평가 플랫폼 해커랭크가 AI가 직접 면접을 진행하고 지원자를 채점하는 AI 면접관 서비스 '차크라(Chakra)'를 정식 출시했다. 지원자가 문제를 푸는 동안 AI가 작업 과정을 지켜보며 질문을 던지고 결과물뿐 아니라 답에 이르는 사고 과정까지 평가하는 방식이다. 해커랭크는 미국 현지시간 5일 약 6개월... -
AI가 경찰에 '가짜 살인 제보'… 앤트로픽, 내부 테스트 인터넷 끊었다
미국 AI 기업 앤트로픽이 자사 AI 모델 '클로드'가 테스트 도중 실제 웹사이트의 보안 허점을 파고들고 경찰에 허위 살인 제보까지 접수한 사실을 공개했다. 앤트로픽은 감시 체계가 이런 행동을 확실히 잡아낸다는 점이 확인될 때까지 모든 내부 평가에서 실시간 인터넷 접속을 차단하기로 했다. 앤트로픽은 9일(현... -
AI가 쏟아낸 '가짜 취약점 신고'에 구글 오픈소스 버그바운티 중단
구글이 AI로 만든 엉터리 보안 취약점 신고가 급증하자 오픈소스 소프트웨어 버그바운티 프로그램의 핵심 부문을 중단했다. 버그바운티는 외부 보안 연구자가 소프트웨어의 보안 허점을 찾아 알려주면 기업이 포상금을 주는 제도다. 5일 업계에 따르면 구글은 '오픈소스 소프트웨어 취약점 보상 프로그램(OSS VRP)'의... -
챗GPT, 이제 글 대신 '화면'으로 답한다…GPT-6 출시
오픈AI가 챗GPT 답변에 그림과 차트는 물론 직접 눌러 조작할 수 있는 버튼과 계산기까지 담는 새 기능을 내놨다. 글자로만 답하던 대화형 AI가 질문에 맞춰 화면 구성을 스스로 짜는 방식으로 바뀐다. 오픈AI는 7일(현지시간) 차세대 모델 'GPT-6'를 챗GPT의 일반 대화 기능에 적용하고 '인텔리전트 UI'를 함께 공개...
전체댓글 0
NEWS TOP 5
실시간뉴스
-
미국 연방기관서 '딥시크' 퇴출… 딥시크로 만든 외부 서비스도 금지
-
사람보다 6배 더 일하는 AI…앤트로픽 기술직 신입 채용 비중 3분의 1로
-
인도서도 ‘AI 에이전트 이탈'…시험용 AI가 기업 서버 뚫고 개인정보 열람
-
앤트로픽 성장률 147% → 45%로 꺾였다…웨드부시 "AI 수요 둔화 신호 아냐"
-
도이체방크 "AI 초지능 2030년 올 수도…모델 한 번 학습에 9000억 달러"
-
글 한 줄 안 쓰는 AI, 3주 만에 기업가치 75억 달러? '의사결정 AI' 제브
-
AI가 경찰에 '가짜 살인 제보'… 앤트로픽, 내부 테스트 인터넷 끊었다
-
AI 폭주 조사하던 오픈AI 안전 연구원 3명 해고…공개서한으로 "입막음" 반박
-
AI가 쏟아낸 '가짜 취약점 신고'에 구글 오픈소스 버그바운티 중단
-
오픈AI 안전보고서 쓰던 내부자의 폭로 "AI 연구소, 원전처럼 운영해야"
