“프론티어 가격으로는 계산이 안 맞는다”…MS, 이그나이트 2026서 '토큰 청구서 전쟁' 선포

MAI 코드 2·디시전 1.1로 단가 깎고, 'AI용 ERP'로 지출 통제…모델 회사와 다른 길 택한 마이크로소프트

[테크수다 기자 도안구 eyeball@techsuda.com] 마이크로소프트(Microsoft)가 현지시간 17일 미국 샌프란시스코에서 열린 '마이크로소프트 이그나이트 2026(Microsoft Ignite 2026)' 오프닝 키노트에서 기업 AI의 승부처를 '토큰 비용'으로 규정했다. 사티아 나델라(Satya Nadella) 마이크로소프트 이사회 의장 겸 CEO와 저드슨 알토프(Judson Althoff) 커머셜 비즈니스 CEO가 이끈 2시간 20분 남짓한 무대에서 회사는 자체 MAI 모델군, 의사결정 모델 '마이크로소프트 디시전 1.1(Microsoft-Decision-1.1)', 모델 라우터, 그리고 AI 지출을 관리하는 '에이전트 365 비즈니스 애널리틱스(Agent 365 Business Analytics)'를 한꺼번에 꺼냈다. 성능 경쟁만으로는 기업이 에이전트를 대규모로 돌릴 수 없으니, 같은 일을 더 싸게 처리하고 쓴 만큼의 가치를 숫자로 보여주겠다는 전략이다.

핵심 요약

  • 자체 모델로 단가 인하 — MAI 코드 2(MAI Code 2)는 일상적인 기업 코딩 업무에서 경쟁 프론티어 모델의 일부 비용으로 비슷한 성능을 낸다고 MS는 주장했다. 디시전 1.1은 LLM 대비 200배 저렴하다는 수치를 내걸고 정식 출시했다.
  • 라우팅으로 낭비 제거 — 쉬운 요청은 작은 모델로, 어려운 요청만 프론티어 모델로 보내는 라우팅이 코파일럿과 파운드리 전반의 기본값이 됐다. MS는 이 방식이 최대 65% 저렴하다고 밝혔다.
  • 'AI용 ERP'로 지출 통제 — 에이전트 365 비즈니스 애널리틱스는 AI 비용과 업무 성과를 한 화면에 연결하고, 부서별 예산과 하드 리밋, 비용 배분(차지백)까지 지원한다.
사티아 나델라 CEO가 이그나이트 2026 오프닝 키노트에서 발표하고 있다. 사진: 마이크로소프트

토큰 지출 급증…MS가 비용을 전면에 내세운 이유

이날 키노트에서 가장 직설적인 진단은 무스타파 술레이만(Mustafa Suleyman) 마이크로소프트 AI(MAI) CEO에게서 나왔다. 그는 CIO와 CFO를 만날 때마다 같은 이야기를 듣는다며 "토큰 지출이 천정부지로 치솟고 있고, 프론티어 가격으로는 계산이 맞지 않는다"고 말했다. 이어 MAI는 품질만 끌어올리는 방식이 아니라 품질과 가격을 함께 최적화하고, 출시하고 배우고 개선하는 과정을 반복한다고 설명했다.

이 진단은 키노트 전체를 관통했다. 나델라 CEO는 멀티 모델 시스템을 소개하면서 주어진 작업에 가장 좋은 경제성으로 지능을 연결하는 것이 MS가 풀려는 최적화 문제라고 정의했다. 제품과 하네스(harness), 도구, 모델을 하나의 엔드투엔드 시스템으로 묶어 튜닝하는 것이 MS만 할 수 있는 일이라는 주장도 덧붙였다.

배경은 분명하다. 에이전트가 사람 대신 장시간 일하기 시작하면서 토큰 소비량이 사람의 채팅과는 다른 단위로 늘었다. 나델라 CEO가 소개한 깃허브(GitHub) 사례가 이를 보여준다. 에이전트가 만든 푸시와 커밋, 풀 리퀘스트가 폭증하자 MS는 깃 아키텍처를 다시 설계했고, 테스트에서 에이전트 5000개를 저장소 하나에 붙여 초당 7200건의 쓰기를 유지했다고 밝혔다. 현재 처리량의 180배다.

MAI 코드 2·코드 2 플래시: 매일 하는 코딩에 맞춘 가격

술레이만 CEO가 공개한 수치는 공격적이다. MS는 깃허브 코파일럿(GitHub Copilot)에서 자주 나오는 기업 코딩 업무를 겨냥한 벤치마크 네 개의 평균을 기준으로 삼았다. 그 기준에서 MAI 코드 2는 오픈AI(OpenAI)의 GPT-6.1 계열 최상위 모델 대비 98% 성능을 40% 비용으로 낸다고 주장했다. 앤트로픽(Anthropic)의 클로드 오퍼스 5.5(Claude Opus 5.5)와 비교하면 비용이 5% 수준이라고 덧붙였다. 경량 모델인 코드 2 플래시(Code 2 Flash)도 경쟁사의 소형 모델과 같은 성능을 각각 65%, 20% 가격에 낸다는 것이 MS의 설명이다.

주목할 대목은 MS가 스스로 한계를 밝혔다는 점이다. 술레이만 CEO는 이 모델들이 기초 과학 연구나 매우 긴 호흡의 에이전트 작업 같은 어려운 문제에는 아직 맞춰져 있지 않다고 명시했다. 과학의 최전선까지 밀어붙이도록 만든 모델을 쓰면 단순한 버그 수정에도 그 능력의 값을 치르게 된다는 논리다. 최고 성능 경쟁에서 한발 비켜서 기업이 매일 반복하는 일의 단가를 낮추는 쪽에 무게를 둔 셈이다. 나델라 CEO도 MAI 모델군이 사전 학습 단계에서는 컴퓨팅 효율을, 제품 배포 단계에서는 토큰 효율을 높이도록 설계됐다고 설명했다. 코드 2와 코드 2 플래시는 이날부터 깃허브 코파일럿의 모델 선택기와 코파일럿 퓨전에서 정식 제공되고, 파운드리에서도 쓸 수 있다.

맞춤형 모델 사례도 같은 메시지를 담았다. AT&T가 쓰는 코드 2 플래시 맞춤 버전은 5G 네트워크 분석 업무에서 경쟁 최상위 모델을 앞서면서 비용은 50분의 1이라고 MS는 밝혔다. 보안 분야의 MAI 사이버 2 플래시(MAI Cyber 2 Flash)는 사이버짐(CyberGym) 엔드투엔드 평가에서 오픈AI의 GPT-6 계열 모델을 앞서면서 작업당 비용은 2%에 못 미친다고 주장했다. 이미지 편집 모델 MAI 이미지 2.7은 경쟁 모델의 5분의 1 비용으로 세계 1위 이미지 편집 모델이 됐다는 것이 MS의 설명이다.

깃허브 코파일럿의 새 복합 모델 '코파일럿 퓨전(Copilot Fusion)'도 같은 축에 있다. 여러 모델을 조합해 프론티어 수준의 결과를 훨씬 낮은 비용으로 내도록 설계한 모델이다. 나델라 CEO는 퓨전이 터미널 벤치(Terminal Bench)에서 코딩 에이전트 1위에 올랐고, 비교 대상보다 5점 높은 점수를 절반 이하의 비용으로 냈다고 밝혔다.

무스타파 술레이만(Mustafa Suleyman) 마이크로소프트 AI(MAI) CEO. 유튜브 챕쳐

구분MS 주장 성능MS 주장 비용비고
MAI 코드 2GPT-6.1 계열 최상위 모델의 98%40% (오퍼스 5.5 대비 5%)일상 기업 코딩 벤치마크 4종 평균
코드 2 플래시경쟁 소형 모델과 동급65% / 20%대량·고속 작업용
AT&T 맞춤 코드 2 플래시5G 네트워크 분석에서 우위50분의 1고객 맞춤 학습
MAI 사이버 2 플래시사이버짐에서 GPT-6 계열 앞섬작업당 2% 미만퍼셉션에 통합
디시전 1.1라우팅·분류 등 의사결정LLM 대비 200배 저렴, 10배 이상 빠름정식 출시, 고객 4000곳 이상

※ 표의 수치는 모두 MS의 자체 발표이며 독립 검증을 거치지 않았다.

디시전 1.1과 라우터: 모든 요청을 프론티어 모델에 보낼 필요는 없다

MS가 비용 절감의 두 번째 축으로 내세운 것은 라우팅이다. 나델라 CEO는 의사결정 모델을 소프트웨어에 지능을 심는 핵심 기본 요소로 소개하면서, 과거 관계형 데이터베이스가 소프트웨어 공학을 바꾼 것처럼 의사결정 엔진도 그럴 것이라고 내다봤다. 이번에 정식 출시한 디시전 1.1은 멀티모달을 지원하고 정확도와 응답 속도를 높였다. 이미 4000곳이 넘는 고객이 쓰고 있다.

쓰임새는 넓다. 미국 의료 IT 기업 에픽(Epic)은 환자 경험과 임상, 백오피스 업무의 판단에 디시전을 쓴다. 엑스박스(Xbox) 팀은 신작 게임에 쏟아지는 수만 건의 자유 서술형 피드백을 분류하는 데 이 모델을 쓴다. 코파일럿 자체도 사용자의 요청을 어떤 모드와 모델, 추론 강도로 보낼지 밀리초 단위로 판단하는 데 디시전을 쓴다. MS는 라우팅 외에도 데이터 레이블링, 개인화, 콘텐츠 필터링 등 수백 가지 내부 업무에 이 모델을 쓰고 있다. 나델라 CEO는 LLM을 쓰는 것보다 10배 이상 빠르고 200배 저렴하다고 강조했다.

파운드리(Microsoft Foundry)의 모델 라우터도 같은 원리다. 단순한 요청은 작고 빠른 모델로, 복잡한 요청은 프론티어 모델로 보낸다. MS는 모든 요청을 프론티어 모델로 보내는 것보다 최대 65% 저렴하다는 내부 데이터를 공개했다. 파운드리에는 오픈AI, 앤트로픽, 메타(Meta), 미스트랄(Mistral)과 MAI 모델을 포함해 1만1000개가 넘는 모델이 올라 있다. 핵심은 모델 수가 아니라 한곳에서 모델을 평가하고, 더 나은 모델이 나오면 에이전트를 다시 만들지 않고 바꿔 끼울 수 있다는 점이라고 MS는 설명했다.

알래스카항공(Alaska Airlines) 시연은 이 비용 논리를 가장 구체적으로 보여줬다. 정비 기록에 항공 정비 분류 체계인 ATA 코드를 자동으로 붙이는 에이전트를 만들면서, 개발팀은 먼저 '파운드리 옵티마이저(Foundry Optimizer)'로 시스템 프롬프트와 도구 설명을 다듬었다. 정확도는 크게 올랐지만 지시문이 길어져 입출력 토큰 비용도 함께 늘었다. 그래서 지시문에 담긴 지식을 모델 가중치에 넣기로 하고 MAI 코드 2 플래시를 학습시켰다. 그 결과 ATA 코드 정확 일치율 97%, 코딩 그룹 일치율 93%를 기록했다고 MS는 밝혔다. 프롬프트가 길어지는 것 자체가 학습이 필요하다는 신호라는 설명은 토큰 비용을 고민하는 기업이 새겨들을 만한 대목이다.

2시간 작업에 100달러…무대 위에서 공개한 청구서

이번 키노트에서 눈에 띈 장면은 발표자들이 시연 비용을 직접 공개했다는 점이다. 알토프 CEO는 지난 11월 8일 일요일, 2027년 1월 미국소매협회(NRF) 행사의 기조연설을 준비하며 코파일럿 코워크(Copilot CoWork)와 오토파일럿(Autopilot)으로 스토리보드와 발표 자료, 고객 추적표, 3D 데모까지 만든 과정을 보여줬다. 사용량 화면에는 약 1만 크레딧이 찍혀 있었다. 알토프 CEO는 "두 시간의 내 시간과 100달러어치 토큰"이라고 말했다. 코파일럿이 필요한 모델만 골라 써서 비용을 최적화했다는 설명이다.

셰브론(Chevron) 시연도 같은 형식이었다. 셰브론은 설비의 안전 설계 기준이 되는 '설계 기준서(basis of design)'를 만드는 데 몇 달씩 걸렸다. 코워크는 수백 개의 엔지니어링 파일과 패브릭 IQ(Fabric IQ)로 연결한 사내 설계·운영 보고서 수천 건을 비교해 80쪽이 넘는 문서를 만들었고, 작업 과정을 사내 엔지니어 누구나 다시 쓸 수 있는 스킬로 저장했다. 시연자가 '/cost' 명령을 입력하자 4500크레딧, 약 45달러가 나왔다. 그는 에이전트 솔루션을 만들려고 코딩팀을 꾸리는 것보다 훨씬 싸고, 엔지니어의 작업 시간이 몇 달에서 몇 분으로 줄었다고 말했다.

MS는 비용 구조도 다시 짰다. 제이컵 안드레우(Jacob Andreou) 코파일럿 담당 수석부사장은 코파일럿 구독에 채팅과 코파일럿 전체, 오피스가 포함되며, 초안 작성과 요약, 분석은 추가 과금 없이 쓸 수 있다고 강조했다. 코파일럿이 미터기를 돌리지 않고 파워포인트 초안을 만드는 유일한 방법이라는 표현도 썼다. 앤트로픽과 오픈AI가 문서·슬라이드·스프레드시트 기능을 넣고 있지만 단순화한 뷰어와 편집기여서 기능과 협업을 희생한다는 견제였다. 고정 구독으로 일상 업무를 덮고, 고난도 작업만 크레딧으로 과금하는 이중 구조다.

'AI용 ERP': 에이전트 365 비즈니스 애널리틱스

비용을 줄이는 도구가 모델과 라우터라면, 지출을 보고 통제하는 도구는 에이전트 365다. 나델라 CEO는 에이전트 365에 이미 5000만 개가 넘는 에이전트가 등록돼 있고, 클라우드 비용 관리 기법인 핀옵스(FinOps)도 여기에 포함된다고 밝히며 새 기능을 소개했다. AI 사용이 늘수록 조직은 지출과 AI가 만든 가치 사이에 분명한 선을 그어야 한다는 것이 그의 설명이다. 그는 "AI 사용량의 ERP 시스템으로 생각하면 된다"고 말했다. 무엇이 지출을 일으키는지 보고, 지출을 사업 성과와 연결하고, 시나리오별 투자수익률(ROI)을 최적화한다는 설명이다.

찰스 라마나(Charles Lamanna)가 이어받아 구체화했다. 비즈니스 애널리틱스는 AI 지출과 도입 현황, 창출 가치를 한곳에 모은다. 쓴 토큰이 아니라 처리한 업무, 절약한 시간, 만든 가치를 측정한다는 것이 핵심이다. 목표는 AI에 돈을 덜 쓰는 것이 아니라 1달러마다 더 많은 가치를 얻는 것이라고 그는 정리했다.

시연은 실무 흐름을 그대로 따랐다. 연구개발 부서의 운영 책임자는 다음 달 AI 예산을 받으면 서비스별 비용이 어떤 모델로 흘러가는지 추적한다. 코워크가 부서 사용량의 39%를 차지한다는 사실을 확인하고 가설 검증 같은 용도별 비용과 가치를 나란히 본다. 가치는 각 조직이 직접 정한 업무 시간과 단가로 계산하고, 현금 절감액이 아니라 보수적인 추정치라고 MS는 선을 그었다. 깃허브 코파일럿 비용이 꾸준히 늘자 더 저렴한 모델 조합으로 예측을 다시 돌려 예산 영향을 확인하고, 실제 변경 전에는 엔지니어링 부서장에게 평가를 맡기는 장면도 나왔다. 마지막으로 엔지니어링 부서의 코워크 사용에 월 한도를 걸고, 비용을 해당 부서 원가센터의 애저(Azure) 구독으로 배분했다.

통제 장치는 촘촘하다. 셰브론 시연에서는 IT 부서가 지출 한도를 설정하기 전에는 누구도 코워크를 쓸 수 없고, 한도에 이르면 사용자가 증액을 요청해야 한다는 정책이 소개됐다. AT&T 시연에서는 모델을 바꾼 뒤 비용이 급등한 에이전트 두 개를 놓고 아무것도 하지 않을 때, 이전 모델로 되돌릴 때, 급등 직전 가격을 기준으로 할 때의 지출 예측을 비교했다. MS 에이전트에는 한도에 이르면 사용이 멈추는 하드 리밋을 걸 수 있다. 아마존 베드록(Amazon Bedrock)에서 만든 에이전트처럼 다른 회사 플랫폼의 에이전트는 비용 정보를 받아 알림을 거는 수준이다. 비즈니스 애널리틱스는 프론티어 퍼블릭 프리뷰로 시작하고, 위임형 지출 정책과 타사 에이전트 비용 가시성은 12월에 추가된다.

칩에서 디바이스까지: 비용을 깎는 인프라

비용 전략은 반도체까지 내려간다. 나델라 CEO는 자체 AI 가속기 마이아 300(Maia 300)이 선도적인 GPU 기반 시스템보다 와트당 토큰 처리량을 40% 높일 것이라고 밝혔다. 범용 가상 머신인 코발트 200(Cobalt 200)은 정식 출시했다. 이전 세대보다 성능이 최대 50% 높고, 올해 말까지 23개 리전으로 늘어난다. 나델라 CEO는 윈도우(Windows) 기기에서 도는 로컬 모델을 '미터기 없는 지능'이라고 불렀다. 2025년 프론티어 모델은 노트북에서, 지난 분기 모델은 데스크톱에서 돌릴 수 있다는 설명이다. 클라우드 토큰 과금에서 벗어날 출구를 단말기에서도 열겠다는 뜻이다.

MAI 라이선스드 웨이트(MAI Licensed Weights)도 비용과 통제의 연장선이다. 신뢰할 수 있는 파트너는 MS AI 모델의 가중치를 받아 자사 데이터로 맞춤화하고 자신의 애저 환경에서 돌릴 수 있다. 술레이만 CEO는 누구도 자신의 지식을 남의 모델에 쏟아붓고 싶어 하지 않는다며, 맞춤 결과와 데이터가 전적으로 고객의 것으로 남는다고 강조했다.

테크수다의 시각

이번 이그나이트의 숨은 주인공은 청구서였다. 2년 전까지 빅테크 키노트는 벤치마크 1위를 다퉜다. 올해 MS는 무대 위에서 100달러, 45달러짜리 영수증을 흔들었고, 경쟁 모델 대비 몇 퍼센트 비용인지를 성능 지표만큼 크게 띄웠다. 에이전트가 사람 대신 24시간 일하는 순간 AI는 소프트웨어 라이선스가 아니라 전기 요금 같은 변동비가 된다. 변동비를 쓰는 기업에 필요한 것은 더 똑똑한 모델 하나가 아니라 계량기와 차단기, 그리고 싼 대체재다. MS는 이 세 가지를 동시에 내밀었다.

전략의 결도 분명해졌다. 술레이만 CEO가 MAI 모델이 장기 에이전트 작업이나 과학 연구에는 아직 맞춰져 있지 않다고 스스로 밝힌 대목은 흥미롭다. 최전선은 오픈AI와 앤트로픽에 맡기고, 기업 업무의 80%를 차지하는 일상 작업을 가장 싸게 처리하는 자리를 차지하겠다는 선언으로 읽힌다. 실제로 파운드리에는 경쟁사의 프론티어 모델이 그대로 올라 있다. MS는 모델 회사와 정면으로 싸우기보다 라우터와 장부를 쥐고 어떤 요청을 어느 모델로 보낼지 결정하는 자리를 노린다. 클라우드 시대에 하이퍼바이저와 과금 체계를 쥔 쪽이 이겼듯, 에이전트 시대에는 라우팅과 비용 장부를 쥔 쪽이 협상력을 갖는다.

다만 짚을 점이 있다. 첫째, 이날 나온 비용 비교 수치는 모두 MS의 자체 측정이다. 어떤 벤치마크 네 개를 골랐는지, 경쟁 모델을 어떤 설정으로 돌렸는지는 공개 검증이 필요하다. MS가 같은 날 공식 블로그에 올린 나델라 CEO 발언 편집본도 코드 2와 사이버 2 플래시의 비용을 '프론티어 비용의 일부'라고만 적었다. 오퍼스 5.5 대비 5% 같은 경쟁사 실명 비교는 무대 발표에만 나왔다. MS의 코딩 모델이 늘 가격 경쟁에서 앞선 것도 아니다. 지난 8월 공개한 MAI 코드 1.1 플래시는 가격과 성능 모두에서 딥시크(DeepSeek)의 경량 모델에 밀린다는 외신 평가를 받았다. 저가 오픈 웨이트 모델과의 경쟁은 이제 시작이다.

둘째, '구독에 포함'과 '크레딧 과금'의 경계가 곧 기업의 실제 청구액을 결정한다. 일상 업무는 고정 구독, 고난도 작업은 크레딧이라는 구조는 합리적으로 보인다. 그러나 코워크와 오토파일럿처럼 장시간 도는 에이전트가 늘어날수록 비용은 크레딧 쪽으로 쏠린다. 알래스카항공 사례처럼 정확도를 높이려다 토큰 비용이 오르는 역설도 흔하게 벌어질 것이다.

셋째, 국내 기업에는 이것이 남의 이야기가 아니다. 테크수다가 최근 다룬 LG유플러스의 토큰 최적화 스터디, 뉴타닉스의 자체 추론 인프라, KT의 토큰팩토리는 모두 같은 질문에서 출발한다. 토큰을 얼마나 쓰고, 그만큼 무엇을 얻었는가. MS가 'AI용 ERP'라는 이름으로 이 질문을 제품으로 만든 이상, 국내 CIO들도 내년 예산 회의에서 같은 질문을 받게 된다. AI 도입의 성패는 이제 모델 선택이 아니라 비용 설계에서 갈린다.

MS의 토큰 청구서 전쟁, 이런 점이 궁금하셨나요?

Q1. MS는 왜 이번 이그나이트에서 비용을 전면에 내세웠나?

A. 에이전트가 장시간 자율적으로 일하면서 토큰 소비가 급증했기 때문이다. 술레이만 MAI CEO는 CIO와 CFO들이 프론티어 가격으로는 계산이 맞지 않는다고 호소한다고 전했다. MS는 자체 모델, 라우팅, 지출 관리 도구를 묶어 같은 일을 더 싸게 처리하고 그 가치를 숫자로 보여주는 전략을 택했다.

Q2. MAI 코드 2는 오퍼스나 GPT보다 정말 그렇게 싼가?

A. MS는 일상 기업 코딩 벤치마크 네 개의 평균을 기준으로, 클로드 오퍼스 5.5 대비 5%, GPT-6.1 계열 최상위 모델 대비 40% 비용이라고 주장했다. 다만 MS의 자체 측정이고, MS 스스로 과학 연구나 장기 에이전트 작업에는 아직 맞춰져 있지 않다고 밝혔다. 쉬운 일에 한정한 비교라는 뜻이다.

Q3. 에이전트 365 비즈니스 애널리틱스는 무엇을 하나?

A. AI 지출과 도입 현황, 업무 가치를 한 화면에 연결하는 관리 도구다. 서비스별·모델별 비용 흐름을 추적하고, 부서별 예산과 지출 한도, 원가센터별 비용 배분을 설정한다. 나델라 CEO는 이를 'AI 사용량의 ERP'라고 불렀다. 프론티어 퍼블릭 프리뷰로 시작했다.

Q4. 모델 라우팅은 비용을 얼마나 줄이나?

A. 쉬운 요청은 작은 모델로, 어려운 요청만 프론티어 모델로 보내는 방식이다. MS는 모든 요청을 프론티어 모델로 보낼 때보다 최대 65% 저렴하다고 밝혔다. 디시전 1.1은 이런 판단을 LLM보다 200배 저렴하게 처리한다고 주장한다.

Q5. 국내 기업은 무엇을 준비해야 하나?

A. 토큰 사용량을 업무 성과와 연결해 측정하는 체계부터 갖춰야 한다. 어떤 업무에 어떤 모델이 필요한지 구분하고, 예산 한도와 비용 배분 원칙을 미리 정해야 장시간 도는 에이전트를 도입해도 비용이 통제된다.

[테크수다 기자 도안구 eyeball@techsuda.com]