ARM 기반 CPU, 2029년 AI 서버 시장 점유율 90% 확대 전망…x86 중심 구도 흔들리나

[테크수다 기자 도안구 eyeball@techsuda.com] 맞춤형 AI 서버 인프라의 호스트 CPU 계층은 조용하지만 구조적인 변화를 겪고 있다. 카운터포인트리서치(이하 ‘카운터포인트’) HPC 서비스의 최신 ‘데이터센터 AI 서버 컴퓨트 ASIC 출하 전망 및 트래커’에 따르면, x86 아키텍처는 점진적으로 독자적인 Arm 기반 설계로 대체되고 있다.

그동안 AI 인프라에 대한 논의는 대부분 가속기 출하량에 집중되어 왔지만, 구글(Google), 아마존웹서비스(AWS), 마이크로소프트(Microsoft), 메타(Meta) 등 주요 하이퍼스케일러를 대상으로 한 카운터포인트의 바텀업 분석 결과, 호스트 CPU 구성에서도 이와 동시에 또 다른 수요 변화가 진행되고 있는 것으로 나타났다.

암(Arm) 기반 CPU는 빠르게 확산되고 구조적인 성장 흐름까지 더해지면서, 주요 하이퍼스케일러의 AI ASIC 서버에서 기존 x86 CPU를 점차 대체할 것으로 보임
2029년 초에는 암(Arm) 아키텍처가 AI ASIC 서버 CPU 시장의 주류로 자리 잡을 전망.이는 하이퍼스케일러들이 자체 CPU 개발을 위해 Arm 라이선스를 적극 확대하고 있는 점, 그리고 턴키 형태의 Arm AGI CPU 플랫폼이 출시되는 점이 주요 동력으로 작용함
특히 메타(Meta)를 주요 고객으로 한 암(Arm)의 AGI CPU는 데이터센터 CPU 시장 진출의 신호탄으로,성장하는 하이퍼스케일 맞춤형 AI 인프라에서 기존 x86 기반 CPU에서 Arm으로의 전환이 본격화되고 있음

카운터포인트 제공

맞춤형 AI 서버 인프라의 호스트 CPU 계층은 조용하지만 구조적인 변화를 겪고 있다. 카운터포인트리서치(이하 ‘카운터포인트’) HPC 서비스의 최신 ‘데이터센터 AI 서버 컴퓨트 ASIC 출하 전망 및 트래커’에 따르면, x86 아키텍처는 점진적으로 독자적인 Arm 기반 설계로 대체되고 있다.

지난 3년간 x86 기반 CPU는 AI 인프라 가속기 배치에서 지배적인 위치를 유지해왔다. 주요 하이퍼스케일러들은 소프트웨어 호환성과 기존 데이터센터 인프라를 고려해 현재 세대까지 Intel과 AMD 프로세서를 호스트 CPU로 활용해왔다. 그러나 시장이 확대되고, 세미커스텀 AI 가속기 및 XPU 기반의 이기종 아키텍처 필요성이 커지면서 Arm Neoverse 코어 기반 서버 CPU 채택이 더욱 빠르게 증가하고 있다.

이러한 변화는 근본적으로 비용과 효율성에 기반한다. 하이퍼스케일러들은 AI 가속기와 함께 자체 호스트 프로세서를 설계함으로써 공급망을 다변화하고, 범용 반도체 벤더 의존도를 낮추며, 규모의 경제를 통해 마진을 회수하고 토큰 비용을 절감하려 한다. 그 결과, 초기에는 범용 클라우드 워크로드에 활용되던 자체 Arm CPU가 점차 AI 서버용으로 설계되고 있다. Arm 기반 CPU는 유사한 x86 랙 구성 대비 최대 2배의 전력 대비 성능(performance-per-watt)을 제공하며, 이는 제한된 전력 환경에서 컴퓨팅 밀도를 극대화하려는 하이퍼스케일러에게 중요한 장점이다.

이와 관련해 카운터포인트의 데이비드 우(David Wu) 연구위원은 다음과 같이 밝혔다.
“현재 x86 아키텍처는 여전히 AI 서버 인프라에서 중요한 비중을 차지하고 있지만, 세대별 분석 결과 이 지배적 위치는 빠르게 독자적인 Arm 기반 설계로 전환되고 있다. 이러한 변화는 2026년 하반기에 더욱 가속화될 것으로 보인다. 어떤 하이퍼스케일러가, 어떤 ASIC 세대에서 x86에서 Arm으로 전환하는지를 파악하는 것이 실질적인 인사이트의 핵심이다.”

AI ASIC 서버 내 Arm CPU 비중: 2025년 vs 2029년

AI 하이퍼스케일러 전반으로 확산되는 Arm 기반 CPU

구글(Google)의 경우, 차세대 TPU 인프라에서 Arm 기반 Axion CPU 도입 확대가 이번 전환의 가장 중요한 이벤트로 꼽히며, Arm 기반 CPU가 대규모 AI 인프라에 본격적으로 적용될 준비가 되었음을 보여준다.

아마존웹서비스(AWS) 역시 Trainium 세대를 거치며 접근 방식을 변화시키고 있으며, Arm 기반 Graviton 프로세서가 고밀도 구성에서 점점 더 중요한 역할을 하고 있다. 다만, 일부 환경에서는 기존 호환성을 위해 x86이 여전히 사용되고 있다.

구글(Google)과 아마존웹서비스(AWS)를 넘어, Arm으로의 전환은 하이퍼스케일러 전반으로 확산되고 있다. 마이크로소프트(Microsoft)는 Azure Cobalt Arm CPU를 Maia AI 가속기와 초기부터 함께 설계했다.

Arm AGI CPU의 등장

Meta가 차세대 MTIA 인프라에서 Arm을 전략적 CPU 파트너로 선정하고, Arm 최초의 AGI CPU 출시 고객으로 참여한 것은, x86에서 벗어나는 흐름이 단일 기업의 선택이 아닌 산업 전반의 방향임을 보여준다.

카운터포인트의 닐 샤(Neil Shah) 리서치 부사장은 다음과 같이 설명했다.
“AI 서버에서 x86에서 Arm으로의 전환은 단번에 이루어지는 변화가 아니다. 이는 세대별, 구성별로 점진적으로 진행되어 왔다. 하이퍼스케일러들은 각자의 배치 요구에 맞춰 신중하게 선택하고 있으며, 이에 맞는 소프트웨어를 구축하고 있다. 경제적 측면에서도 매우 긍정적인 흐름이다. 이러한 전환은 2026년 하반기부터 의미 있게 가속화될 것으로 예상된다.”

그는 이어서, “당사의 분석에 따르면, Arm 기반 CPU는 2025년 약 25%에서 2029년에는 맞춤형 AI ASIC 서버의 호스트 CPU 배치 중 최소 90%를 차지할 것으로 전망된다. 이는 주요 하이퍼스케일러의 자체 Arm CPU 프로그램 확대에 따른 구조적 변화이다.”라고 덧붙였다.

이러한 변화는 반도체 공급망 전반에도 중요한 영향을 미친다. 하이퍼스케일러들이 첨단 공정 기반의 자체 Arm CPU로 이동함에 따라, AI 서버 구축 확대는 TSMC 공급망 내에서 AI 서버용 컴퓨트 ASIC과 CPU 양쪽에 동시에 수요를 창출할 것으로 보인다.

AI 서버의 CPU 전쟁, 이런 점이 궁금하다

Q: Arm 기반 CPU가 AI 서버에서 주목받는 이유는 무엇인가요?

A: 비용과 전력 효율성이 핵심이다. Arm 기반 CPU는 유사한 x86 랙 구성 대비 최대 2배의 전력 대비 성능(performance-per-watt)을 제공한다. 하이퍼스케일러 입장에서는 자체 설계 CPU를 통해 범용 반도체 벤더 의존도를 낮추고, 규모의 경제로 마진을 회수하면서 AI 추론 토큰 비용도 절감할 수 있다는 설명이다.

Q: x86 CPU는 AI 서버 시장에서 완전히 퇴출되는 건가요?

A: 그렇지는 않다. 카운터포인트리서치는 이 전환이 세대별·구성별로 점진적으로 진행되고 있다고 분석한다. AWS의 경우 일부 환경에서는 기존 소프트웨어 호환성을 위해 x86이 여전히 병행 사용되고 있다. 다만 Arm 기반 CPU의 비중은 2025년 약 25%에서 2029년에는 맞춤형 AI ASIC 서버 호스트 CPU의 최소 90%까지 확대될 것으로 전망된다.

Q: 이 변화가 반도체 공급망에 미치는 영향은 무엇인가요?

A: 주요 하이퍼스케일러들이 첨단 공정 기반의 자체 Arm CPU로 이동함에 따라 TSMC 공급망 내에서 AI 가속기(ASIC)와 CPU 양쪽에 동시에 수요가 창출되는 구조가 형성된다는 분석이다. Google의 Axion, AWS의 Graviton, Microsoft의 Azure Cobalt, 그리고 Meta의 차세대 MTIA 인프라까지 주요 하이퍼스케일러 전반으로 자체 Arm CPU 프로그램이 확산되고 있어, 전통적 반도체 벤더인 Intel·AMD에게는 구조적 수요 감소 압력으로 작용할 전망이다.

[테크수다 기자 도안구 eyeball@techsuda.com]