테크수다

AMD, 랙스케일 AI '헬리오스' 양산 돌입…"달러당 추론 토큰 30% 더 처리"

도안구 -

[테크수다 기자 도안구 eyeball@techsuda.com] AMD가 미국 현지시각 7월 23일 캘리포니아주 샌프란시스코에서 '어드밴싱 AI(Advancing AI) 2026'을 열고 에이전틱 AI 시대를 겨냥한 풀스택 컴퓨팅 포트폴리오를 공개했다. 이번 발표의 핵심인 첫 랙스케일 AI 솔루션 'AMD 헬리오스(Helios)'는 이미 양산에 돌입했으며, 주요 AI 기업들이 기가와트급 인프라 구축에 활용할 예정이다. AMD는 이와 함께 6세대 에픽(EPYC) 프로세서, 인스팅트(Instinct) MI400 시리즈 GPU, 라이젠 AI 임베디드 X100 프로세서, 크리아(Kria) AI 시스템 온 모듈(SOM) 및 로보틱스 개발 플랫폼을 선보였다. AI가 학습 중심에서 추론과 에이전틱 워크로드로 확대되면서 급증하는 컴퓨팅 수요에 대응하겠다는 구상이다.

주요 내용

  • AMD 헬리오스는 경쟁 솔루션 대비 달러당 최대 30% 더 많은 AI 추론 토큰을 처리해 랙 단위 처리량과 비용 효율성을 동시에 높였다.
  • 앤트로픽(Anthropic)은 헬리오스에 최대 2기가와트(GW) 규모의 인스팅트 MI455X GPU를 구축할 계획이며, 오픈AI(OpenAI)는 2026년 4분기부터 도입해 2027년 본격 확대에 나선다.
  • AMD는 데이터센터·PC·엣지·임베디드 전반의 수요 확대를 근거로 2030년 총 주소가능시장(TAM)이 약 2조 달러 규모에 이를 것으로 전망했다.

헬리오스 랙스케일 솔루션은 72개의 인스팅트 MI455X GPU와 18개의 6세대 에픽 '베니스(Venice)' CPU, 펜산도(Pensando) 프런트엔드, 스케일업·스케일아웃 네트워킹, ROCm 오픈 소프트웨어를 하나로 최적화해 통합했다. 컴퓨팅 성능과 메모리 용량, 네트워킹 대역폭을 결합해 경쟁 솔루션 대비 달러당 최대 30% 더 많은 추론 토큰을 처리한다는 설명이다. 오픈AI와 앤트로픽, 메타(Meta), 마이크로소프트(Microsoft), 오라클(Oracle), 휴메인(HUMAIN), 텐서웨이브(Tensorwave), 벌처(Vultr), 시라스케일(Cirrascale) 등이 도입을 추진하고 있다. 시스템은 Bull과 HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등 주요 OEM과 산미나(Sanmina), 위윈(Wiwynn) 등 인프라 파트너를 통해 공급된다.

파트너사들의 협력 내용도 구체화됐다. 앤트로픽은 클로드(Claude)를 활용해 AMD 소프트웨어 개발을 가속하는 다년간의 공동 엔지니어링에 착수하며, AMD는 엔지니어링과 제품 개발 전반에 클로드를 도입한다. 오픈AI는 트라이튼(Triton) 프레임워크와 ROCm을 활용해 MI455X GPU와 헬리오스 랙에서 GPT 계열 워크로드를 최적화하고 있고, 메타는 기가와트급 인프라 공동 설계와 함께 6세대 에픽 CPU 플랫폼을 검증 중이다. 제품 측면에서는 MI455X가 이전 세대 MI355X 대비 최대 34배 높은 토큰 처리량을 제공하며, 신규 공개된 MI430X는 최대 288TFLOPS의 하드웨어 기반 FP64 성능으로 미국과 유럽의 차세대 엑사스케일 슈퍼컴퓨터에 적용된다. 기존 인프라용 MI350P는 경쟁 제품 대비 달러당 최대 4.2배 높은 초당 토큰 처리 성능을 낸다.

AMD는 2030년까지 CPU와 GPU, 네트워킹, 랙스케일 솔루션 전반에서 매년 혁신을 이어가는 로드맵도 제시했다. 인스팅트 MI500 시리즈는 2027년, MI600 시리즈는 2028년 출시되며, '젠(Zen) 7' 기반 차세대 에픽 CPU는 2028년, '젠 8' 기반 '라벤나(Ravenna)'는 2030년 나온다. 소프트웨어 측면에서는 클로드와 코덱스(Codex), 커서(Cursor) 등 AI 코딩 에이전트가 AMD 플랫폼을 네이티브 수준에서 이해하도록 지원하는 AI 기반 개발 플랫폼 'ROCm.ai'를 새롭게 공개했다. 피지컬 AI 영역에서는 CPU·GPU·NPU·FPGA를 하나로 통합한 업계 최초의 개방형 턴키 자율 로보틱스 개발 플랫폼 '크리아 AI 로보틱스 개발 플랫폼'을 내놨다.

리사 수(Dr. Lisa Su) AMD CEO는 "AI의 다음 단계는 프런티어 모델, 에이전트, 피지컬 AI로 확장되며 AI를 모든 곳에 구현할 새로운 기회를 만들어 갈 것"이라며 "생태계 전반의 파트너들과 협력해 고객들이 데이터센터부터 엣지까지 AI를 더 뛰어난 성능과 유연성, 폭넓은 선택지로 확장하도록 지원하고 있다"고 말했다.

이런 점이 궁금하셨나요? — AMD 헬리오스와 에이전틱 AI 전환, 핵심 짚기

Q. '랙스케일 솔루션'이 왜 중요한가요?
A. 최첨단 AI는 GPU 하나의 성능이 아니라 랙 전체가 하나의 컴퓨터처럼 작동하는 통합 아키텍처에서 결정된다. 헬리오스는 GPU와 CPU, 네트워킹, 소프트웨어를 함께 설계·최적화해 랙 단위 처리량을 끌어올린 구조로, 스택 전반의 병목을 줄이는 데 초점을 맞췄다.

Q. '달러당 토큰 30%'는 무엇을 의미하나요?
A. 추론 서비스의 원가는 결국 같은 비용으로 몇 개의 토큰을 생산하느냐로 수렴한다. 경쟁 솔루션 대비 달러당 최대 30% 더 많은 추론 토큰을 처리한다는 것은 동일한 투자로 더 많은 AI 서비스를 운영할 수 있다는 뜻으로, 대규모 도입을 검토하는 사업자에게 직접적인 선택 요인이 된다.

Q. 학습(트레이닝)이 아닌 추론과 에이전틱 AI가 부각되는 이유는 무엇인가요?
A. AI가 실제 서비스 단계로 넘어가면서 모델을 만드는 연산보다 이를 반복 실행하는 연산의 비중이 커지고 있기 때문이다. 특히 스스로 판단하고 작업을 수행하는 에이전트는 한 번의 요청에 여러 차례 추론을 수행해 컴퓨팅 수요를 배가시킨다. AMD가 와트당·달러당·랙당 실행 가능한 AI 에이전트 수를 성능 지표로 내세운 배경이다.

Q. 로보틱스 플랫폼은 기존 사업과 어떻게 연결되나요?
A. AMD는 FPGA와 어댑티브 SoC로 축적한 기술을 크리아 AI 솔루션으로 확장해 인식·추론·의사결정·제어를 한 플랫폼에 통합했다. 개방형 소프트웨어 생태계를 함께 제공해 특정 벤더 종속 없이 프로토타입부터 양산까지의 개발 기간을 단축하겠다는 전략이다.

[Techsuda eyeball@techsuda.com]