AI 가격표의 단위가 바뀌고 있다 — '백만 토큰당 가격'에서 '성공한 태스크당 비용'으로

부제: 단가는 떨어지는데 청구서는 커지는 역설, 토큰의 3분의 1을 처리하며 돈은 25분의 1만 받는 오픈웨이트 — 2026년 상반기 토큰 이코노미가 도착한 곳

[테크수다 기자 도안구 eyeball@techsuda.com] AI 모델을 고를 때 우리가 들여다보는 숫자는 오랫동안 하나였다. 백만 토큰당 몇 달러인가. 입력은 얼마, 출력은 얼마. 이 단위는 간명했고, 그래서 모델 간 비교의 표준처럼 쓰여 왔다.

그런데 이 단위에는 처음부터 결함이 있었다. 같은 일을 시켜도 모델마다 쓰는 토큰의 양이 다르다는 점이다. 어떤 모델은 짧게 추론하고 답을 내고, 어떤 모델은 같은 과제에 두 배의 토큰을 쏟아붓는다. 단가가 절반인 모델이 토큰을 세 배 쓰면, 실제 비용은 더 비싸다. 토큰 단가는 재료비일 뿐, 완성품의 원가가 아니었던 셈이다.

2026년 상반기, 이 결함을 정면으로 겨냥한 단위가 표준의 자리로 올라오기 시작했다. '성공한 태스크당 비용(cost per task)'이다. 독립 벤치마크 기관 아티피셜 어낼리시스(Artificial Analysis)는 자사 인텔리전스 인덱스 v4.1에서 이 지표를 공식화했다. 각 평가에 들어간 입력·캐시·추론·답변 토큰 비용을 과제 수로 나누고, 아홉 개 평가의 가중치로 평균한 값이다. 산출식은 공개돼 있다.

단위가 바뀐다는 것은 승자가 바뀔 수 있다는 뜻이다. 그리고 7월, 그 역전의 실증 사례가 나왔다.

단가를 서너 배 올리고도 '싸진' 모델

7월 16일 중국 문샷AI가 출시한 키미(Kimi) K3는 여러모로 화제였다. 2.8조 파라미터로 역대 최대 규모의 오픈웨이트 예고 모델이었고, 아티피셜 어낼리시스 인텔리전스 인덱스에서 57점으로 전체 4위 — 오픈웨이트 계열로는 최고 순위 — 에 올랐다.

그러나 토큰 이코노미 관점에서 가장 중요한 숫자는 가격표에 있다. K3의 API 단가는 입력 백만 토큰당 3달러, 출력 15달러다. 전작 K2.6의 서너 배로, '중국 모델은 싸다'는 통념을 스스로 깬 가격이다.

그런데 태스크당 비용으로 재면 그림이 뒤집힌다. 아티피셜 어낼리시스 측정 기준 K3의 태스크당 비용은 0.94달러. 오픈AI의 GPT-5.6 솔(1.04달러)과 사실상 동급이고, 앤트로픽 오푸스 4.8(1.80달러)의 절반 수준이다. 단가를 서너 배 올린 모델이 태스크 단위에서는 미국 프론티어와 맞서는 것이다.

비결은 토큰 효율이다. K3는 전작보다 21% 적은 출력 토큰(약 1억3,200만 개 대 1억6,600만 개)으로 13점 높은 지수 점수를 냈다. 같은 과제를 더 짧게 풀어내니, 오른 단가를 효율이 상쇄했다. 백만 토큰당 가격표만 보고 모델을 고르는 구매자는 이 역전을 놓친다.

이 사례가 보여주는 것은 K3 한 모델의 성취가 아니라 경쟁 전장의 이동이다. 모델 회사들의 싸움이 '단가 인하'에서 '같은 일을 더 적은 토큰으로 끝내기'로 옮겨가고 있다.

단가가 떨어져도 청구서가 커지는 이유

단위 이동의 배경에는 단가의 지속적 하락이 있다. 최신 세대 하드웨어와 오픈소스 추론 소프트웨어를 결합한 추론 사업자 네 곳이 4~10배의 비용 절감을 보고했다는 엔비디아 분석의 외신 보도(벤처비트, 2026년 2월)가 있고, 하드웨어 세대교체·vLLM과 SGLang 같은 서빙 스택의 처리량 개선·모델 소형화라는 세 동인은 모두 진행형이다.

상식적으로는 단가가 떨어지면 지출도 줄어야 한다. 현실은 반대다. 그리고 올해 상반기, 이 역설을 단일 데이터셋 안에서 보여주는 자료가 나왔다.

버셀(Vercel)은 자사 AI 게이트웨이 — 프로덕션 애플리케이션과 AI 랩 사이에서 매달 수십조 개의 토큰을 라우팅하는 계층 — 의 집계를 '프로덕션 인덱스'라는 이름으로 공개한다. 7월호(6월 데이터)에 따르면 게이트웨이의 월간 토큰량은 29%, 지출은 27% 늘었는데 토큰당 평균 가격은 보합이었다. 저가 오픈웨이트 워크로드의 급증이 평균 가격을 끌어내릴 만했지만, 프론티어 클로즈드 모델의 가격이 12%가량 오르며 상쇄됐다는 것이 버셀의 설명이다.

수요의 성격 변화는 더 구조적이다. 툴 호출로 종결되는 요청 — 즉 에이전트형 요청 — 의 비중은 2025년 10월 11.4%에서 2026년 4월 22.2%로 6개월 만에 배증했다. 에이전트는 사람의 질문 하나에 수십 번의 모델 호출을 만들어낸다. 총량 지표도 같은 방향이다. 구글은 I/O 2026에서 자사 전 제품 합산 월간 토큰 처리량이 3.2경 개로 전년 대비 7배가 됐다고 밝혔다 — 자사 발표 수치임은 감안해야 한다.

이 구조의 고전적 이름은 제번스 역설이다. 효율이 좋아질수록 총소비가 늘어난다. 19세기 영국의 석탄에서 확인된 법칙이 21세기의 토큰에서 재연되고 있다. 태스크당 비용이 떨어지면 어제까지 채산이 맞지 않던 업무에 AI를 붙일 수 있게 되고, 적용 범위가 넓어지면 총 토큰 소비는 오히려 는다. 미시적 효율화와 거시적 수요 확대는 모순이 아니라 인과 관계다.

토큰의 3분의 1, 돈의 25분의 1

늘어난 토큰을 누가 처리하고, 돈은 누가 받는가. 여기서 시장은 둘로 갈라진다.

버셀 게이트웨이의 6월 데이터에서 오픈웨이트 모델은 전체 토큰의 29%를 처리했다. 4월의 11%에서 석 달 만에 3배에 육박한 수치다. 볼륨 확대의 주역은 딥시크로, 게이트웨이 토큰의 22.6%를 차지하며 앤트로픽과 구글에 이어 3위까지 올라왔다. 6월 16일 출시된 Z.AI의 GLM 5.2는 출시 2주 만에 상위권에 진입했다.

그런데 지출을 보면 완전히 다른 시장이 나타난다. 토큰의 29%를 처리한 오픈웨이트의 지출 비중은 4% 미만이다. 토큰의 3분의 1을 처리하면서 돈은 25분의 1만 받아 가는 구조다. 오픈웨이트의 평균 토큰 단가가 플랫폼 평균의 약 10분의 1이기 때문이다.

반대편 극단에는 미국 프론티어가 있다. 같은 달 미국 프론티어 4사는 게이트웨이 지출의 95%를 가져갔다. 그중 앤트로픽 단독으로 61% — 토큰으로는 32%를 처리하면서다. 실패 비용이 큰 고위험 유스케이스로 좁히면 앤트로픽의 지출 점유는 72%를 넘는다.

버셀 원문의 결론 문장이 이 구조를 요약한다. "고볼륨 업무는 저가 모델로 가고, 고위험 업무는 프론티어에 남는다." 이것은 싼 모델이 비싼 모델을 대체하는 시장이 아니다. 업무의 위험도에 따라 볼륨 시장과 마진 시장으로 분화하는 시장이다.

한 가지 단서는 분명히 해두자. 버셀 데이터는 자사 게이트웨이를 경유하는 트래픽, 즉 공개 라우팅 시장의 그림이다. 멀티모델 라우팅을 이미 도입한 팀들이 표본이고, 기업이 모델사와 직접 계약한 물량이나 오픈웨이트를 자체 인프라에서 돌리는 물량은 이 집계 밖에 있다. 다만 후자를 고려하면 오픈웨이트의 실제 볼륨 비중은 이 수치보다 클 가능성이 높다 — 29%는 하한선에 가깝다.

'싸구려 중국 AI'는 없다 — 세 층이 있을 뿐

이 볼륨 시장의 중심인 중국 진영을 들여다보면, '중국 모델은 싸다'는 단일 서사가 이미 낡았음이 드러난다. 태스크당 비용 기준으로 세 층이 뚜렷하다.

바닥에는 딥시크가 있다. V4 프로의 태스크당 비용은 0.04달러. 저가의 기준선을 지키며 볼륨을 쓸어 담는 층이다. 중간에는 GLM-5.2 같은 오픈웨이트 실속형이 태스크당 0.32달러로 자리 잡았다. 그리고 꼭대기에 K3가 있다. 태스크당 0.94달러 — 서구 해설가들이 '초저가 중국 AI의 종언'이라 부른 지점이다.

중요한 것은 이 변화가 몰락이 아니라 분화라는 점이다. 미국 진영이 프리미엄과 중간과 경량으로 층을 나눠 온 것처럼, 중국 진영도 초저가·실속·프리미엄이 역할을 나눠 가진 다층 구조로 수렴했다. 가격이 아니라 역량으로 값을 매기는 모델이 중국에서 나왔다는 사실 자체가, 이 시장의 성숙을 보여주는 신호다.

생태계 전략의 분화는 알리바바에서 가장 선명하다. Qwen은 자사 발표 기준 누적 다운로드 10억 건(2026년 1월 돌파), 파생 모델 20만 개를 넘긴, 세계에서 가장 많이 쓰이는 오픈 모델 패밀리다. 미드티어인 3.5와 3.6은 아파치 2.0 라이선스로 완전히 열려 있다. 내려받아 자체 서버에서 돌리면 데이터가 알리바바로 흐르지 않는다 — 데이터 주권 수요를 정확히 겨냥한 설계다.

그런데 5월, 알리바바는 플래그십 Qwen 3.7-Max를 API 전용으로 닫았다. 백만 토큰당 입력 2.50달러, 출력 7.50달러. 오픈으로 개발자 저변과 생태계를 만들고, 최상위 역량은 클로즈드로 직접 과금하는 구조다. 앞서 본 '볼륨과 마진의 분리'가 미중 사이가 아니라 중국 진영 내부에서, 한 회사 안에서 재연되고 있는 셈이다.

남은 장벽에 대해서는 가트너의 진단이 정확하다. 가트너 애널리스트는 인포월드에 "Qwen의 최대 과제는 기술이 아니라 신뢰"라며 중국계 모델에 대한 불신, 제한적인 글로벌 상용 가용성, 중국 밖의 미성숙한 파트너 생태계를 꼽았다. 프론티어 클로즈드 진영의 방어선이 이제 성능이 아니라 신뢰라는 뜻이기도 하다.

공급자의 지표, 수요자의 지표

공급 측의 서사도 짚어야 공정하다. 젠슨 황 엔비디아 CEO는 3월 GTC에서 데이터센터를 '토큰을 찍는 공장'으로 재정의하고, 키노트 요약 보도에 따르면 매출을 '와트당 토큰 × 가용 기가와트'라는 공식으로 제시했다. 전력이 최종 제약이 된 시대에 와트당 토큰 산출량이 곧 매출 승수라는 논리다. '와트당 토큰'을 핵심 지표로 삼는 프레임과, AI 서비스가 무료-중간-프리미엄의 가격 스펙트럼을 형성하리라는 전망은 엔비디아 자사 기술 블로그에 명문화돼 있다.

다만 구분할 것은 구분해야 한다. 2027년까지 1조 달러 이상의 수요·주문이 있다거나 2년간 총 연산 수요가 100만 배 늘었다는 키노트의 수치들은 산정 방식이 공개되지 않은 벤더의 주장이다. 인프라를 파는 회사의 수요 전망에는 구조적으로 부풀 유인이 있다. 총수요가 늘고 있다는 방향 자체는 독립 데이터로 확인되지만, 규모의 산정은 별개 문제다.

이 프레임을 기각할 필요는 없다. 위치를 정해주면 된다. 와트당 토큰은 데이터센터와 인프라 사업자에게 유효한 공급자의 지표다. 그러나 토큰을 사서 쓰는 쪽 — 기업 — 의 의사결정 단위는 태스크당 비용이다. 두 지표는 다른 질문에 답한다.

흥미로운 것은 그 가격 스펙트럼의 '무료층'을 놓고 벌어진 설계 경쟁이다. 마이크로소프트는 6월 빌드 2026에서 이중 구조를 공식화했다. 클라우드의 에이전트 작업은 코파일럿 크레딧이라는 소비 계량기로 과금하되, 윈도우에 기본 탑재되는 아이온(Aion) 소형 모델들은 — 공식 블로그의 표현 그대로 — "이미 지불한 하드웨어 위의 무제한(unmetered) 지능"으로 풀었다. "프론티어 모델은 프론티어 문제에, 나머지는 전부 로컬에서 대규모로"라는 무대 위 문구가 설계의 요약이다. 요약, 문장 다듬기, 의도 파악 같은 저부가 반복 작업의 토큰 수요를 아예 과금 체계 밖으로 이전하겠다는 선언 — 토큰 스펙트럼의 무료층을 클라우드가 아니라 엣지에 배치한 것이다.

두 번째 통화, 지식

7월 둘째 주에는 이 시장의 또 다른 층위를 건드리는 글이 이틀 간격으로 나왔다.

12일, 사티아 나델라 마이크로소프트 CEO는 X에 올린 장문 에세이에서 '역정보 역설'을 제기했다. 케네스 애로우의 1966년 정보 역설을 구매자 쪽으로 뒤집은 프레임으로, 요지는 이렇다. 기업은 지능에 두 번 지불한다 — 한 번은 돈으로, 또 한 번은 그 지능을 유용하게 만들기 위해 공개해야 하는 독점 지식으로. 쓰면 쓸수록 판매자는 구매자에 대해 배우는데, 구매자는 판매자가 무엇을 배우는지 거의 모른다는 비대칭이 누적된다는 것이다.

14일에는 엔터프라이즈 AI 기업 헤비아의 조지 시불카 CEO가 a16z 뉴스레터 기고에서 한 층 아래를 지적했다. 직원들이 자기 노하우를 AI에 가르치길 거부하는 '컨텍스트 사재기'다. 부족 지식은 수백 년간 개인의 고용 안정 수단이었는데, AI는 그것을 한꺼번에 내놓으라고 요구하는 최초의 기술이라는 논지다. 그는 기업 고유의 평가 체계(eval)가 OKR의 자리를 대신할 최대 자산이 되리라고도 주장했다 — 코딩에 AI 도입이 앞선 이유가 '코드는 돌아가거나 안 돌아가거나'라는 내장 eval 덕분이며, 다른 도메인은 성공 기준을 세워야 열린다는 것이다.

두 글 모두 이해관계가 있는 화자의 주장임은 감안해야 한다. 나델라가 권하는 해법들은 결국 클라우드 인프라 위에서 구동되고, 시불카의 결론은 자사가 속한 사업 카테고리를 정당화한다. 그가 함께 쓴 "토큰의 80%는 아무 일도 안 한다" 같은 수치는 근거가 제시되지 않았다. 그러나 두 층위 — 기업과 모델사 사이, 직원과 기업 사이 — 에서 같은 구조의 문제가 동시에 제기됐다는 사실은 남는다. 토큰 이코노미의 두 번째 통화는 지식이며, 오픈웨이트 자가호스팅의 명분이 '싸서'에서 '지식과 데이터를 통제하려고'로 이동하고 있다는 것이다.

결론: 세 문장

상반기의 변화를 세 문장으로 정리하면 이렇다.

첫째, 토큰 이코노미의 가치 측정 단위는 백만 토큰당 가격에서 성공한 태스크당 비용으로 이동하고 있다. K3의 사례가 보여주듯, 단가표는 이제 실비용의 근사조차 아니다.

둘째, 단가는 하락하지만 사용 범위가 더 빠르게 확대되면서 총 토큰 소비는 증가한다. 토큰량 29% 증가에 단가 보합이라는 6월의 게이트웨이 데이터가 이 공존 구조의 실측값이다.

셋째, 향후 경쟁력은 토큰 생산량뿐 아니라 라우팅, 평가 체계, 데이터와 지식의 통제권에서 결정된다. 지출 61% 대 토큰 32%라는 간극은 태스크를 위험도에 맞는 모델로 보내는 능력의 시장 가치를 증명하고, 그 라우팅의 전제는 무엇이 성공인지 정의하는 기업 고유의 eval이며, 그 모든 과정에서 축적되는 프롬프트·교정·워크플로라는 지식이 어디에 쌓이는가가 마지막 싸움이다.

하반기에 지켜볼 지점도 셋이다. 문샷이 예고한 K3 전체 웨이트 공개(7월 27일) 이후 오픈웨이트 진영이 보안 인증과 SLA라는 엔터프라이즈 신뢰 요건을 갖추는 속도, 태스크당 비용 지표가 실제 구매 기준으로 표준화되는 속도, 그리고 게이트웨이 데이터에서 오픈웨이트의 지출 비중이 4%의 벽을 넘어서는지다. 셋 중 무엇이 먼저 움직이든, 백만 토큰당 가격표로 이 시장을 읽는 시대는 끝났다.

취재 방법: 이 기사의 핵심 수치는 버셀 AI 게이트웨이 프로덕션 인덱스(2026년 7월호, 6월 데이터), 아티피셜 어낼리시스 인텔리전스 인덱스 v4.1(2026년 7월 17일), 엔비디아 기술 블로그, 마이크로소프트 윈도우 개발자 블로그 등 당사자 공식 원문과 데이터 플랫폼 원문에서 인용했다. 벤더의 전망·주장 수치는 본문에 화자를 명시했으며, 원문을 확인하지 못한 수치(특정 플랫폼 랭킹 인용치, 장기 단가 하락 곡선 등)는 채택하지 않았다.

AI를 활용한 글이기 때문에 흐름을 파악하는 차원에서 작성한 글이다. 인용은 절대 안된다.