[테크수다 기자 도안구 eyeball@techsuda.com] 주영표 SK하이닉스 시스템아키텍처 담당 부사장이 25일 서울 강남구 코엑스에서 열린 '델 테크놀로지스 포럼 2026' 기조연설 무대에 초청 연사로 올라 에이전틱 AI 시대의 메모리 병목을 정면으로 짚었다. 그는 AI 시스템의 성능을 결정하는 변수로 연산기가 아닌 메모리 대역폭을 지목하고, 물리적 한계를 돌파할 해법으로 3D 수직 적층과 메모리 풀링을 제시했다.

핵심 요약

병목의 이동 — 초당 20토큰 수준의 응답에도 4TB/s급 대역폭이 필요하다. 주영표 부사장은 이를 650MB짜리 CD 6~7장을 매초 GPU로 퍼 올리는 양에 비유했다.
쇼어라인의 벽 — GPU 성능은 다이 면적에 비례해 오르지만 메모리 대역폭은 칩 가장자리 길이에 갇힌다. 면적에 비례해 대역폭을 늘리는 해법은 3D 적층뿐이라는 진단이다.
노는 GPU — 프리필과 디코드를 분리하면 KV 캐시 이동 구간에서 양쪽 장비가 대기한다. SK하이닉스는 풀드 메모리와 CXL로 이 유휴 시간을 줄이는 연구 결과를 지난해 가을 공개했다.

반도체 회사의 시간표는 1~2년 앞을 본다

주영표 부사장은 발표를 준비하며 무엇을 이야기할지 여러 갈래로 고민했다고 운을 뗐다. 자사 AI 인프라나 현재 AI 시스템이 어떻게 만들어지고 있는지는 다른 연사들이 충분히 다룰 수 있다고 판단했고, 그래서 상대적으로 먼 미래를 택했다는 설명이다. 반도체 기업은 미래를 준비하는 데 시간이 더 걸리는 만큼 최소 1~2년 앞을 내다보고 움직인다는 이유를 들었다.

그는 AI 시대가 눈앞에 다가왔다는 말조차 식상해졌고 이제는 AI와 함께 살기 시작한 단계라고 진단했다. 다만 그 시간이 생각보다 길지 않았다는 점도 짚었다. 챗GPT 서비스가 처음 나온 것이 2022년이니, 그 세대가 대학에 입학했다면 아직 졸업도 하지 않았을 기간에 세상이 완전히 바뀌었다는 것이다.

변화의 계기는 트랜스포머 기반 언어 모델이었다. 그는 이 모델을 향한 애정을 메모리 기업다운 이유로 설명했다.

"저는 이 모델을 정말 사랑합니다. 이 모델이 정말 메모리를 많이 쓰거든요."

프런티어 랩이 모델을 구동할 때 쓰는 메모리 양은 어마어마한 수준이다. 모델 하나의 가중치만 테라바이트 단위 용량을 요구한다. 여기에 사용자가 질문을 던지고 답이 토큰 단위로 출력되는 속도까지 고려해야 한다. 응답이 지나치게 느리면 서비스로 성립하지 않기 때문이다.

그는 초당 20개 토큰이 나오는 수준으로 계산해도 4TB/s급 대역폭이 필요하다는 숫자를 제시했다. HBM 보급으로 높은 대역폭에 익숙해졌지만 이 숫자 자체는 여전히 압도적이라는 설명이다. 그가 든 비유는 CD였다. 650MB짜리 CD 6~7장 분량의 데이터를 매초 퍼 올려 GPU에 밀어 넣고 있다는 얘기다.

LLM에서 추론으로, 다시 에이전트로… 요구는 세 번 뛰었다

요구 수준은 단계마다 도약했다. 2024년 가을 추론 모델 서비스가 등장하고 지난해 초 딥시크가 오픈소스 기반 추론 모델을 내놓으면서 답변 품질이 확연히 달라졌다. 주 부사장은 여기서 업계가 얻은 함의를 이렇게 정리했다. 그전까지는 막대한 자원을 들여 모델을 훈련하고, 그 모델을 쓰는 와중에도 더 똑똑한 다음 모델을 만들기 위해 다시 자원을 투입하는 구조였다. 추론 모델은 훈련을 거치지 않고도 같은 모델을 반복 실행하는 것만으로 더 나은 지능을 확보할 수 있다는 사실을 보여줬다.

문제는 이 방식이 메모리를 훨씬 더 많이 쓴다는 데 있다. 반복이 돌 때마다 KV 캐시가 새로 생성되고, 그 컨텍스트를 다음 턴에서 다시 활용하며 앞선 답변에 기초해 답을 이어가기 때문이다.

에이전틱 AI 단계에서는 요구 조건 자체가 달라진다. 그는 코딩 에이전트를 예로 들었다. 개발자가 원하는 코드를 만들어 달라고 입력하면 시스템은 백그라운드에서 대량의 자원을 써서 코드를 생성하고 컴파일해 결과까지 내놓는다. 개발자는 여러 대의 머신과 여러 에이전트를 동시에 돌리더라도 결국 기다리는 처지가 된다. 직접 개발하지 않기 때문이다. 이 시간은 짧을수록 좋지만, 만들어진 지 오래된 컴파일러나 런타임 같은 소프트웨어 도구 체인이 갑자기 10배, 20배 빨라지기는 어렵다. 결국 전체 시간을 줄여 비용 효율을 개선하려면 AI 쪽이 더 높은 성능으로 돌아야 한다는 결론에 이른다. 사람이 기다리게 해서는 안 된다는 전제가 깔려 있다.

그 결과 요구 성능의 단위가 바뀌었다. 화면에 토큰이 하나씩 찍히던 수준의 수십 토큰이 아니라, 개인 한 명 단위로도 수백 토큰 이상의 처리 성능이 필요해졌다. 멀티 에이전트 사례는 부하를 한 번 더 키운다. 기업의 자재 관리 담당자가 대표 에이전트에 이상 재고를 채우라고 요청하면 여러 에이전트가 서로 통신하며 재고를 파악하고 발주를 넣고 교차 확인까지 수행한다. 사람끼리 나누는 대화보다 훨씬 많은 대화가 에이전트 사이에서 오가기 때문에 요구 성능이 더 높아진다는 설명이다.

시장 구간도 새로 생겼다. 그는 초당 300~600토큰을 제공하는 프리미엄 서비스와 700토큰 이상을 내는 울트라 서비스라는 구간이 짧은 기간에 형성됐고, 이 영역의 시장이 빠르게 커지고 있다고 전했다.

SRAM 기반 가속기가 최근 각광받는 배경도 여기에 있다. 나온 지는 몇 년 됐지만 이를 기반으로 시스템 인프라가 급속히 구축되고 있다는 것이다. 다만 한계가 뚜렷하다. SRAM 기반 구성은 기존 D램 대비 자릿수가 다른 대역폭을 제공하는 대신 용량이 메가바이트 단위에 그친다. 주 부사장은 슬라이드의 숫자가 오타가 아니라고 강조했다. 용량 제약 탓에 활용 사례가 한정되고, 그래서 결국 D램에도 높은 대역폭 요구가 되돌아온다는 논리다.

연산기가 성능을 결정한다는 통념에 던진 도발

주 부사장은 SK하이닉스가 준비하는 방향을 성능, 에너지 효율, 자원 활용률 세 축으로 정리했다. 이 세 가지를 뒤집으면 현재 AI 인프라의 최대 비용 항목이 무엇인지가 드러난다는 설명도 곁들였다. 메모리, 전력, 그리고 결국 돈이다.

첫 번째 축인 성능에서 그는 준비한 슬라이드가 도발적일 수 있다고 미리 밝혔다. 발표 2주 전 서울대에서 컴퓨터 아키텍처를 가르치는 교수에게 보여줬더니 도발적인 것 같다는 반응이 돌아왔고, 뺄지 말지 고민하다 결국 가져왔다는 일화를 소개했다.

내용은 이렇다. 컴퓨터 아키텍처 분야에서는 시스템의 성능과 전반적인 지능을 CPU와 GPU, NPU 같은 연산기가 결정한다고 설명해왔다. 주 부사장의 생각은 다르다. 연산기가 중요하지 않다는 것이 아니라, AI 시스템에서는 메모리가 얼마나 많은 대역폭을 공급하느냐가 전체 성능을 결정하는 중요한 변수 가운데 하나라는 주장이다. 그는 이것이 자사를 내세우려는 말이 아니라 시스템 전체의 균형을 이야기하려는 것이라고 선을 그었다.

근거로는 루프라인 분석 그래프를 들었다. 연산의 특성을 분류한 이 그래프에서 대역폭에 묶인 영역에는 디코드 연산과 어텐션 연산을 비롯한 상당수 연산이 걸려 있고, 상단의 프리필 연산이나 행렬 곱셈은 GPU 연산 성능에 묶인다. 어느 한쪽만 끌어올려서는 전체 시스템 성능이 극적으로 좋아지지 않으며, 둘이 균형을 이루며 개선돼야 지속적인 성능 향상이 가능하다는 것이다. 그는 특정 GPU 아키텍처 세대별로 결합된 자사 메모리를 나열한 데이터도 제시하며, GPU 성능과 메모리 대역폭이 거의 같은 패턴으로 올라간다는 점을 보였다. HBM1부터 HBM4까지 10여 년간 이어온 개선 흐름을 앞으로도 유지하겠다는 다짐도 덧붙였다.

면적에 갇힌 대역폭, 답은 위로 쌓는 것

그렇다면 지금처럼만 잘하면 충분한가. 주 부사장의 답은 아니라는 쪽이었다. 에이전틱 AI 때문에 세상의 요구가 너무 커졌다는 이유다.

그가 꺼낸 것은 물리적 제약이었다. 그는 이를 부동산 문제이자 기하학 문제라고 불렀다. GPU 다이 그림을 놓고 보면 가운데 연산 영역의 성능은 면적, 즉 제곱밀리미터에 비례해 올라간다. 반도체 미세화가 이어지는 한 계속 좋아질 영역이다. 반면 그 위아래에 붙은 HBM이 제공하는 대역폭은 아무리 좋은 제품을 만들어도 기하학적 위치 탓에 가장자리 길이, 즉 밀리미터에 비례할 수밖에 없다. 칩의 위아래 면에 붙일 자리가 한정돼 있고, 옆면은 입출력 배치와 경쟁해야 한다. 업계에서 쇼어라인 문제로 부르는 제약이다. 메모리 자체의 역량이 아니라 지리적 여건 때문에 GPU 성능을 따라잡는 데 한계가 생긴다는 뜻이다.

해법은 하나로 좁혀진다.

"대역폭을 면적에 비례해 증가시키려면 거의 유일한 답은 위에 쌓는 것입니다."

그는 여러 회사가 이미 관련 기술을 준비하고 있고 SK하이닉스도 열심히 대응하고 있다고 밝혔다. 3D로 쌓으면 SRAM 수준까지는 아니어도 수십 TB/s 이상의 성능을 낼 것으로 기대하며, 최적화가 더 진행되면 SRAM에 필적하는 대역폭도 가능할 것으로 내다봤다.

다만 그는 남은 문제를 숨기지 않았다. 세상에서 가장 뜨거운 칩 가운데 하나인 GPU 위에 메모리를 얹는 구조여서 많이 쌓기가 쉽지 않다. 현재 HBM처럼 8단, 12단, 16단으로 적층하면 발열을 감당하기 어렵다. 메모리 기업과 로직 반도체 기업, 연산 칩 개발사가 함께 풀어야 할 과제인 동시에, 시스템과 인프라를 잘 아는 기업과 협력해 냉각 방식을 준비해야 한다는 것이 그의 결론이었다. 발표 무대가 델 테크놀로지스 행사였다는 점을 감안하면 협업 대상을 구체적으로 지목한 셈이다.[^1]

연산보다 이동에 쓰이는 에너지, PIM은 재검토 국면

두 번째 축은 에너지 효율이다. 그는 스탠퍼드대 마크 호로위츠 교수가 2014년 정리한 데이터를 인용했다. 이 자료에서 덧셈 연산 하나를 수행하는 데 실제로 드는 에너지는 전체의 극히 일부에 불과하다. 나머지는 전부 메모리나 스토리지에 저장된 데이터를 꺼내 연산기 앞까지 옮기는 데 쓰인다.[^3] 주 부사장은 최신 데이터로 바꾸면 상황이 훨씬 심각할 것이라는 단서를 달았다. 공정이 미세화될수록 연산 에너지는 줄어드는 반면 이동 비용은 그만큼 줄지 않기 때문이다.

정작 하고 싶은 일은 연산인데 이동에 에너지를 쏟고 있다는 것이 그의 문제의식이었다. 그는 이를 출퇴근 시간에 비유했다. 가장 좋은 방법은 주상복합을 짓는 것, 즉 3D로 쌓는 것이라는 설명이다.

또 다른 대안으로 프로세싱 인 메모리(PIM)를 꺼냈다. 메모리 회사에서 나온 사람이 언급하지 않을 수 없는 기술이자 개인적으로 애정을 갖고 있는 기술이며, SK하이닉스도 오랜 기간 연구개발을 해왔다고 소개했다. PIM의 최대 강점은 D램 다이 안에 저장된 데이터 바로 옆에서 연산한다는 점이다. 집 문을 열고 나오면 사무실이 있는 구조여서 이동 에너지가 극히 적게 든다.

그런데 최근 상황이 이 계산을 흔들고 있다. 데이터 한 비트를 저장하는 공간 자체가 너무 귀해졌기 때문이다. 같은 자리에 사무실을 둘 것인지, 아니면 데이터를 한 줄 더 넣을 것인지를 놓고 판단이 갈린다는 것이다. 그는 최근 흐름이 D램은 최대한 공간을 확보해 데이터를 많이 저장하게 하고, 대신 어드밴스드 패키징 기술의 발전을 활용해 D램과 로직 사이의 데이터 이동 에너지를 줄이는 쪽으로 기울고 있다고 전했다. 3D 적층 역시 만능이 아니며 어떤 용도에 쓸지 명확히 정해야 효과를 낸다는 단서도 붙였다.

비싸게 산 GPU가 전송하느라 놀고 있다

세 번째 축은 자원 활용률이다. 주 부사장은 최근 지능이 메모리에 비례한다는 이야기가 많이 나온다며, 여기서 메모리는 칩이 아니라 기억을 뜻한다고 부연했다. 전통적인 컴퓨터 시스템에서는 연산기와 그 위에서 도는 알고리즘이 지능이라고 여겨왔지만, 최근의 AI 시스템과 에이전트를 뜯어보면 판단이 달라진다는 것이다. 좋은 모델이 있다면 그 가중치에 가치가 있고, 대화를 통해 쌓인 컨텍스트와 KV 캐시에도 지능이 있다는 관점이다. 저장 공간과 메모리, 스토리지 수요가 커지는 이유가 여기에 있다.

문제는 그 자원이 놀고 있다는 데 있다. 그는 챗봇에 오늘 날씨를 묻는 과정을 예로 들었다. 커서가 깜빡이는 동안 수행되는 연산이 프리필이고, 답변을 문장으로 내놓는 과정이 디코드다. 두 연산의 특성이 크게 달라 최근 시스템은 이를 분리해 처리하는 추세다. 그 과정에서 KV 캐시 이동이 대량으로 발생하고, 이동하는 동안 한쪽 장비가 기다린다. 심하면 양쪽 모두 대기한다.

"여러분들이 비싸게 구입한 GPU가, 그리고 그 안에 있는 메모리가 일을 안 하고 데이터를 전송하느라 시간을 보내고 있습니다."

SK하이닉스가 접목한 개념이 메모리 풀링이다. 풀드 메모리를 아래에 두고, 프리필 머신은 작업이 끝나면 캐시를 내려놓고 곧바로 다음 일로 넘어간다. 기다리지 않는다. 디코드 머신은 자기 작업이 끝난 뒤 그곳에서 데이터를 꺼내 연산을 수행한다. 메모리를 시스템에 조금 더 얹는 것만으로 전체 성능과 비용 효율을 크게 끌어올릴 수 있다는 것이 연구 결과의 요지다. 회사는 지난해 가을 이 결과를 공개했고, 이후 여러 곳에서 유사한 결과 발표와 시범 적용이 이어지고 있다고 밝혔다.

여기 쓰인 기술이 CXL이다. AI 서비스가 보편화되기 전에 나온 인터커넥트여서 이 용도로 쓰일 것이라고 아무도 예상하지 못했지만, 현시점 기준으로 개방돼 있으면서 메모리 시맨틱으로 동작시킬 수 있는 몇 안 되는 규격이라는 점이 재평가의 배경이다. SK하이닉스는 CXL 2.0 규격 기반의 AI 데이터센터용 CXL 메모리 모듈(CMM)을 개발해 왔다.[^4]

주 부사장은 이 기술에도 약점이 있지만 결국 극복할 수 있다고 봤다. 더 큰 문제는 기술적 한계가 아니라 닭이 먼저냐 달걀이 먼저냐라는 구조라고 지적했다. 시스템이 먼저 세상에 배포되고, 사람들이 써보고, 최적화하고, 활용 사례를 발굴하는 과정을 거쳐야 보편화된다는 것이다. 그는 이 일을 SK하이닉스 혼자 할 수 없으며 델 테크놀로지스를 포함한 업계 전반과 함께 만들어 나가겠다고 말했다.

제번스의 역설이 주는 위안

발표 말미에 그는 알고리즘 개선이 나올 때마다 인프라 수요가 무너질 것이라는 우려가 반복된다는 점을 언급했다. 올해 초 구글 알고리즘 이야기가 나왔을 때 그 자체의 완성도에도 놀랐지만, 주식 방송을 틀어도 옆집 아저씨도 모두 그 알고리즘을 말하는 광경을 보며 자신이 알던 세상이 맞는지 되물었다고 했다. AI 시스템이 사회에 미치는 영향이 그만큼 커졌다는 방증이다.

그 우려에 대한 그의 답은 제번스의 역설이었다. 산업혁명 이후 여러 차례 경험으로 알게 된 것처럼, 차량의 연비가 좋아지더라도 사람들은 좋아진 만큼 차를 더 많이 쓴다. 전기차 같은 급격한 전환이 오기 전까지 에너지 소비는 계속 늘어난다는 논리가 이 분야에도 여전히 유효하다고 봤다.

그럼에도 자원 활용률을 끌어올려 비용을 낮춰야 하는 과제는 남는다. 그는 SK하이닉스가 풀스택 AI 메모리 프로바이더를 지향하며 제품 연구개발 단계부터 고객과 함께 준비하고, 생태계 파트너들과 협력해 나가겠다고 마무리했다.[^5]

테크수다의 시각

스폰서 기업 임원이 초청 연사로 나와 자사 제품 라인업 대신 물리 법칙을 20분 넘게 설명하는 장면은 흔치 않다. 이번 발표의 무게는 거기에 있었다. 쇼어라인 제약과 데이터 이동 에너지는 마케팅으로 우회할 수 있는 문제가 아니다. 면적은 제곱으로 늘고 둘레는 선형으로 는다는 기하학이 HBM의 천장을 정해놓고 있다는 설명은, 왜 업계 전체가 갑자기 수직 적층을 이야기하는지를 한 장의 그림으로 정리해준다.

주목할 대목은 그가 답을 내놓는 방식이다. 3D 적층을 유일한 해법으로 제시하면서도 발열이라는 대가를 같은 호흡으로 인정했고, CXL을 밀면서도 닭과 달걀 문제가 남았다고 했다. PIM에 대해서는 애정을 밝힌 뒤 재검토가 필요하다고 물러섰다. 자사가 오래 투자한 기술을 공개 석상에서 상대화하는 것은 쉬운 선택이 아니다. 미래를 파는 자리가 아니라 조건을 공유하는 자리로 만들겠다는 태도로 읽힌다.

기업 IT 실무자 입장에서 가장 실용적인 대목은 프리필-디코드 분리 구간의 유휴 시간 지적이다. GPU 확보에만 집중해온 국내 기업들이 정작 그 GPU가 전송 대기로 놀고 있는 시간을 측정하고 있는지는 별개 문제다. 메모리를 조금 더 얹어 전체 처리량을 끌어올린다는 접근은 GPU 추가 구매보다 훨씬 싼 선택지가 될 수 있다. 다만 CXL 기반 풀링이 실제 운영 환경에서 얼마나 검증됐는지는 아직 공개된 자료가 제한적이다. 이 부분이 채워지는 속도가 곧 SK하이닉스가 그리는 계층형 메모리 구상의 실현 속도가 될 것이다.

한 가지 더. 그는 발표 내내 협력이라는 단어를 반복했다. 냉각은 시스템 기업과, 적층은 로직·연산 칩 기업과, 배포는 업계 전반과 함께해야 한다는 것이다. 메모리 단품 성능 경쟁이 아니라 시스템 설계 단계부터 개입하겠다는 선언이기도 하다. 델 행사 무대를 빌려 그 말을 한 것 자체가 메시지다.

이런 점이 궁금하셨나요?

Q. 쇼어라인 문제가 정확히 무엇인가.
A. GPU 다이 위에 HBM을 붙일 수 있는 물리적 가장자리 길이가 한정돼 있어 생기는 제약이다. 연산 성능은 다이 면적(제곱밀리미터)에 비례해 오르지만, 메모리 대역폭은 가장자리 길이(밀리미터)에 비례한다. 옆면마저 입출력 배치와 자리를 놓고 경쟁하기 때문에 격차가 계속 벌어진다.

Q. 3D 적층은 지금의 HBM 적층과 어떻게 다른가.
A. 현재 HBM은 GPU 옆에 세워 붙이는 구조다. 여기서 말하는 3D 적층은 GPU 위에 메모리를 직접 올려 면적 전체를 대역폭 확보에 쓰는 방식이다. 수십 TB/s 이상, 최적화가 진행되면 SRAM에 필적하는 대역폭이 기대되지만, 발열 처리가 최대 난관으로 남아 있다.

Q. 프리필과 디코드를 왜 분리하나.
A. 프리필은 입력을 한꺼번에 처리하는 연산이고 디코드는 답변을 토큰 단위로 생성하는 연산이다. 두 연산의 특성이 달라 각각에 맞는 장비에서 처리하는 것이 효율적이다. 다만 그 사이에 KV 캐시를 옮겨야 하고, 이동하는 동안 장비가 대기하는 문제가 생긴다.

Q. CXL은 왜 다시 주목받나.
A. AI 서비스 확산 이전에 만들어진 인터커넥트지만, 개방형이면서 메모리 시맨틱으로 동작시킬 수 있는 몇 안 되는 규격이기 때문이다. 프리필과 디코드 사이에 공유 메모리 풀을 두는 구조를 구현하는 데 쓰인다. SK하이닉스는 CXL 2.0 기반 메모리 모듈을 개발해 왔다.

Q. 알고리즘이 개선되면 메모리 수요가 줄어들지 않나.
A. 주영표 부사장은 제번스의 역설을 들어 반박했다. 자동차 연비가 좋아져도 사람들이 그만큼 더 많이 운행하듯, 효율 개선은 총 소비량을 줄이기보다 늘리는 방향으로 작동해왔다는 논리다.

[테크수다 기자 도안구 eyeball@techsuda.com]