스케일링 시대

AI와 AGI에 대한 관심이 폭증하는 지금, 그 기술을 만드는 사람들의 이야기는 미래를 내다볼 단서가 된다. 드와르케시 파텔의 <스케일링 시대>는 AI 기업의 창업자와 연구자들이 팟캐스트에서 나눈 대화를 모은 책이다. 기업 비밀까지 다 내놓고 이야기할 리는 없지만, 대화 속에서 그들의 야심이 은연중에 드러난다.

팟캐스트에 등장한 빅테크 수장들

사실 이 책에 등장하는 많은 유명인들보다 저자 드와르케시 파텔(Dwarkesh Patel)이 더 궁금했다. 대학 시절 혼자 팟캐스트를 시작한 그가 어떻게 이 많은 사람들을 불러낼 수 있었을까. 책을 읽다 보면 답이 보인다. 그는 적극적이고 공격적으로 질문을 던진다. 상대가 준비한 답 너머를 파고들고, 그 틈에서 그들의 속내가 드러난다. 그 몫은 오롯이 진행자의 것이다.‌

드와르케시 팟캐스트 (출처: dwarkesh.com 화면 갈무리)

원제 <The Scaling Era: An Oral History of AI, 2019–2025>가 말해주듯, 이 책은 2019년부터 2025년까지의 AI 역사를 그 시대를 만든 사람들의 목소리로 엮은 구술사다. 책은 8장으로 구성됐다. 1장은 스케일링 자체를 다룬다. LLM은 어떻게 만들어졌고, 지금까지의 방법이 훨씬 큰 모델에서도 통할 것인가. 2장은 모델의 능력을 어떻게 측정할지, 곧 평가의 문제를 묻는다. 3장은 LLM 내부에서 무슨 일이 일어나는지를, 4장은 안전과 정렬, 즉 AI가 인간의 목표를 따르게 할 수 있는지를 짚는다. 5장은 칩과 전력, 데이터 같은 투입 자원이 충분한지를, 6장은 AI가 경제와 사회에 미칠 영향을 살핀다. 7장은 인간의 지능을 넘어서는 AI가 등장한 이후, 이른바 '지능 폭발'을 다루고, 8장은 AGI가 언제 올 것인가라는 시간표로 마무리한다.

각 장은 하나의 주제 아래 여러 인터뷰이의 발언을 발췌해 엮는 방식이다. 같은 질문에 대한 서로 다른 답이 나란히 놓이니, 낙관과 우려가 맞부딪히는 지점이 자연스럽게 드러난다. 부록에는 스케일링 논쟁의 출발점이 된 리처드 서턴의 에세이 '쓰디쓴 교훈(The Bitter Lesson)' 등이 실렸고, 낯선 용어를 풀어주는 용어 해설도 붙어 있다. 개빈 리치가 엮었다. 실린 대화는 모두 원서가 나온 2025년 3월 이전의 것이다.

등장인물이 방대하고 이야기의 수준도 높아 정신 집중이 필요하다. 그렇다고 겁먹을 이유는 없다. AI의 발전 방향과 구도를 어느 정도 이해하고 있다면 따라가기 수월하다. 모든 방송을 다 들여다볼 수 없는 독자에게, AI 기업들이 무엇을 꿈꾸는지, 그들의 시작은 어디였는지를 한 권으로 살펴볼 수 있게 해준다.

멈출 수 없는 경쟁

1등이 아니면 안 되는 세상에서 데이터 확보와 벤치마크 1위를 위한 기업들의 경쟁은 멈출 수 없는 게임이다. 얼마나 많은 데이터를 끌어모으고 있는지, 그 데이터를 돌리려면 어느 정도의 하드웨어가 필요한지 상상하기도 어렵다. 최근 국내 서점가에 AI 학습용으로 추정되는 대량 구매 문의가 들어왔다는 소식도 이 경쟁과 무관하지 않아 보인다.

그런데 경쟁의 최전선에 선 이들조차 '더 크게'만으로 충분하다고 단언하지 않는다. 구글 딥마인드의 데미스 하사비스는 이렇게 말한다.

"매우 유망한 방향이라고 생각한다. 우리는 거대 모델을 계속 향상시켜야 한다. 세계를 점점 정확히 예측하도록 해야 하고 더 신뢰할 만한 세계 모델로 만들어야 한다. 이건 AGI 시스템에 필요한 요소임은 분명하지만 이것만으로 충분하지 않을 수도 있다." (83쪽)

규모를 키우는 일은 필요하지만, 그것만으로 AGI에 닿을 수 있는지는 만드는 사람들도 확신하지 못하고 있다는 뜻이다.

‌‌2026년 4월 드와르케시 팟캐스트에 출연한 젠슨 황 엔비디아 CEO. 파텔의 인터뷰는 책 출간 이후에도 이어지고 있다. (출처: Dwarkesh Patel 유튜브 화면)

무슨 일이 생길 것인가

3장에서는 LLM 안에서 무슨 일이 일어나고 있는지를 이야기한다. 인간의 뇌를 닮아가는 LLM을 두고 파텔은 인터뷰이들을 몰아붙인다. 책을 읽어나가며 결국 AI가 사람의 생각을 현실에서도 '조종'할 수 있는 날이 멀지 않아 보인다는 생각도 들었다.

안전에 대한 부분을 보면서는 뾰족한 대안이 없어 보였다. 이들조차 어떤 일이 일어날지 상상은 하지만, 어떤 규모로 어떻게 일어날지는 모르기 때문이다. 안전사고가 발생하면 이 기업들은 어떤 책임을 질 수 있을까. 선거 개입, 군비 경쟁, 사기처럼 드러난 일들과 그렇지 않은 일들에 이들은 어떻게 대처할 수 있을까.

AI를 만드는 기업의 수장조차 두려움을 감추지 않는다. 앤트로픽의 다리오 아모데이는 이렇게 말한다.

"내가 AGI를 두려워하는 몇 가지 이유가 있다. 첫째, AGI는 강력한 모델일 것이며 에이전트 능력을 가질 것이다. 그런 모델이 아수라장을 만들고 인류를 파멸시키고 싶어 한다면 우리는 사실상 그것을 막을 능력이 없다. 모델을 스케일하다 보면 어느 시점엔가 그 단계에 도달할 것이다." (128쪽)

인터뷰 당시 오픈 필랜스로피(Open Philanthropy) 선임 연구 분석가였던 조 칼스미스는 여기에 속도의 문제를 더한다.

"가장 무시무시한 시나리오 중에는 정말로 빠른 폭발이 일어나는 상황이 있다. AI 시스템들이 경제 전반에 대규모로 통합되는 일은 일어나지 않을지 모르지만 많은 초지능이 하나의 프로젝트에 엄청나게 집약될 수 있다. 무시무시한 시나리오다. 속도 때문이기도 하지만 사람들이 이에 대응할 시간이 없기 때문이기도 하다." (197쪽)

기존 온라인에서 일어나던 일들이 단지 AI 플랫폼으로 옮겨 갔을 뿐이라고 안심해도 될까. 어떤 사이버 공격이 일어날 수 있을지 예측하고 대비해야 한다. 시스템이 인간을 대신해 모든 것을 결정하는 시대가 온다면, 무슨 일이 벌어질까.

지금, AI의 역사

아쉬운 점도 있다. 책 속에 언급된 숫자나 전망 가운데는 지금 시점에서 보면 다소 차이가 나는 것들이 있다. AI 분야의 변화 속도를 생각하면 피하기 어려운 일이다. 물론 책 말미에 출처가 정리돼 있지만, 본문을 읽는 동안에는 발언이 언제 나온 것인지 바로 알기 어려워 독자가 그 차이를 스스로 가늠하며 읽어야 한다. 또 여러 인물의 의견을 같은 주제 안에 묶어 배치하다 보니, 관점을 비교하기에는 좋지만 누가 어떤 맥락에서 한 말인지 따라가기에는 다소 산만한 느낌이 든다.

그래서 이 책은 말 그대로 '역사'로 읽는 것이 좋겠다. 기술의 발전에 따라 사람들의 생각도 달라질 수 있다. 책 속의 발언은 그 시점의 판단이고, 같은 사람이라도 지금은 다른 답을 내놓을 수 있다. 지금 시점에서 당시 기업 대표들이 했던 말을 되짚어 보면, AI의 발전과 함께 시대의 흐름이 어떻게 바뀌어 왔는지를 읽을 수 있다. 시차는 이 책의 한계이면서, 동시에 이 책을 지금 읽는 이유가 된다.

저자도 책의 마지막 부분에서 이 책을 어떻게 읽어야 할지 언급한다.

"책의 제목과 부제는 오해의 소지가 있다. 나는 확정된 과거에 대해 쓰고 있는 게 아니다. 이 책의 목적은 스케일링 시대의 한복판에 있는 느낌을 포착하는 것이다. 그러니 확정된 답을 얻지 못하는 게 당연하다. 우리는 모두 지도받지 못한 채(unsupervised) 달리고 있다. 그러므로 나는 다만 옳은 질문을 던지려고 최선을 다했다." (255쪽)

실제로 오픈AI 공동 창업자 일리야 수츠케버는 원서 출간 몇 달 뒤 같은 팟캐스트에서 AI가 '스케일링의 시대'에서 '연구의 시대'로 넘어가고 있다고 말했다. 저자의 말처럼, 확정된 답은 아직 없다.

우리가 해야 할 질문

<스케일링 시대>는 AI의 수준과 기업들의 기술 경쟁, 앞으로 일어날 수 있는 일들을 살펴보게 해준다. 그러나 이 책이 주는 것은 정답이 아니라 질문이다. 세계에서 가장 강력한 기술을 만드는 이들에게 물러서지 않고 되묻는 파텔의 태도는, AI가 내놓은 답을 그대로 믿지 말고 근거를 따져 물어야 하는 우리에게도 필요하다.‌

‌‌젠스 황 엔비디아 CEO와 인터뷰에서 질문을 이어가는 드와르케시 파텔 (출처: Dwarkesh Patel 유튜브 화면)

AI를 만드는 사람들이 같은 질문에 어떻게 다르게 답하는지, 그 관점을 비교해보고 싶은 이들에게 이 책을 권한다.

AI가 가져다줄 미래는 결국 인간이 만든다. 나쁜 것도 좋은 것도 그 선택은 인간의 지능에 달려 있다. 그러나 AI 업계의 리더들이 예측한 일들이 하나둘 현실이 되고 있는 지금, 두려움을 완전히 지우기는 어렵다.‌

‌‌스케일링 시대(드와르케시 파텔 지음·개빈 리치 엮음, 인사이트)

‌