[테크수다 기자 도안구 eyeball@techsuda.com] 사티아 나델라(Satya Nadella) 마이크로소프트(Microsoft) 최고경영자(CEO)가 기업 AI 활용의 구조적 위험을 경고했다. 나델라 CEO는 2026년 7월 12일(현지시간) 자신의 블로그와 X(엑스)에 '역정보 역설(The Reverse Information Paradox)'이라는 에세이를 올렸다. 그는 "기업이 지능의 값을 두 번 치른다. 한 번은 돈으로, 또 한 번은 고유 지식으로 낸다"고 밝혔다. 모델 성능을 높이려 할수록 기업 고유 지식이 모델 공급자에게 더 많이 흘러간다는 지적이다.

핵심 요약 3줄

• 나델라 마이크로소프트 CEO가 2026년 7월 12일 '역정보 역설' 에세이를 공개했다.
• 기업이 AI를 쓸수록 프롬프트·수정·평가 형태로 고유 지식이 공급자에게 새어 나간다고 경고했다.
• 해법으로 통제·역량·선택·비용·복리 등 5가지 원칙과 '신뢰 경계' 구축을 제시했다.

역정보 역설(Reverse Information Paradox)이란 기업이 AI 모델을 활용하는 과정에서 자사의 고유 지식을 모델 공급자에게 넘겨주는 구조적 문제를 말한다. 사티아 나델라 마이크로소프트 CEO가 2026년 7월 12일 제시한 개념으로, 케네스 애로(Kenneth Arrow)의 '정보 역설'을 뒤집은 것이다. 애로의 역설에서는 판매자가 지식 유출 위험을 졌지만, AI 시대에는 구매자가 그 위험을 진다.

애로의 정보 역설 뒤집은 '역정보 역설'…기업 지식이 새는 경로

나델라 CEO는 노벨경제학상 수상자 케네스 애로의 이론에서 출발했다. 애로는 "정보의 가치는 얻기 전까지 알 수 없고, 얻는 순간 공짜로 가진 셈이 된다"고 말했다. 판매자가 지식을 팔려다 그냥 내줄 위험을 지는 구조다. 나델라 CEO는 AI가 이 구도를 뒤집었다고 진단했다. 이제는 구매자인 기업이 AI를 쓰기 위해 지식을 내줘야 한다.

유출 경로는 이른바 '지능 배출물(intelligence exhaust)'이다. 직원이 쓰는 프롬프트, AI 에이전트가 쓰는 도구, 모델이 틀렸을 때 가하는 수정이 여기에 해당한다. 나델라 CEO는 "모든 수정은 조직의 노하우로 증류된다"고 밝혔다. 그는 이 지식이 "경쟁사가 결코 살 수 없는 종류"라면서도 "흔적 하나, 수정 하나씩 거의 감지되지 않게 샌다"고 말했다.

그는 현재 AI 산업의 이중 잣대도 꼬집었다. 모델 공급자들은 공개 데이터를 공정이용(fair use)으로 학습하면서, 고객에게는 증류(distillation)를 제한하는 약관을 부과한다는 것이다. 나델라 CEO는 "학습이 한 방향으로만 흐르면, 경제적 가치는 지식 창조자가 아닌 학습 인프라 소유자에게 수렴한다"고 밝혔다. 알렉스 카프(Alex Karp) 팔란티어(Palantir) CEO의 발언도 인용했다. 카프 CEO는 "기술 고객은 컴퓨트·모델·데이터 스택·알파의 통제권을 원한다"고 말했다.

나델라가 제시한 5가지 원칙…신뢰 경계와 기업 자체 학습 루프

나델라 CEO는 해법으로 '신뢰 경계(trust boundary)' 구축을 제시했다. 조직의 데이터, 상호작용 흔적, 평가(evals), 조정된 가중치, 메모리가 함께 쌓이는 공간이다. 동의 없이는 지능 배출물조차 밖으로 나갈 수 없어야 한다고 강조했다. 그는 "기업들은 모델 출력물로 자체 모델을 파인튜닝하거나 학습할 권리를 요구할 것"이라고 밝혔다.

구체적 실행 원칙은 5가지다. 첫째 통제(Control)다. 자체 비공개 평가를 만들고 조직 메모리와 피드백의 소유권을 지키는 것이다. 둘째 역량(Capability)이다. 테넌트 경계 안에 자체 학습 환경을 구축하는 것이다. 셋째 선택(Choice)이다. 오케스트레이션 계층을 특정 모델과 분리해, 한 모델이 사라져도 운영을 지속하는 능력이다. 넷째 비용(Cost)이다. 계층 분리로 맥락·모델·작업을 가장 효율적으로 결합하는 것이다. 다섯째 복리(Compound)다. 앞의 네 가지를 합쳐 기업 자체의 지속 학습 루프를 만드는 것이다.

이번 에세이는 마이크로소프트의 전략 방향을 읽는 단서이기도 하다. 클라우드 시대의 화두가 데이터 축적이었다면, AI 시대의 화두는 학습 축적이라는 것이 나델라 CEO의 결론이다. 그는 "기업은 자신을 고유하게 만드는 지식을 내주지 않고도 모델을 쓸 수 있어야 한다"고 밝혔다.

하지만 이 글에 무조건적인 지지를 보낼 필요는 없다. 사티아 나델라 CEO는 "공급자가 고객 사용 데이터에서 배울 권리를 챙긴다"고 비판하지만, 마이크로소프트 자신이 OpenAI의 최대 파트너이자 코파일럿으로 방대한 기업 사용 데이터를 다루는 당사자다. 즉 이 에세이는 모델 공급자(OpenAI 등)와 인프라 제공자(애저)를 분리하고, 마이크로소프트를 후자의 '신뢰 경계 수호자' 쪽에 세우려는 포지셔닝으로 읽을 수 있다. 오히려 이런 세상을 만든 당사자가 마이크로소프트 일지도 모르는데 말이다.

역정보 역설, 이런 점이 궁금하셨나요?

Q. 역정보 역설이 기존 애로의 정보 역설과 다른 점은 무엇인가요?

A. 애로의 정보 역설에서는 정보를 파는 쪽이 위험을 집니다. 팔기 위해 보여주는 순간 지식을 공짜로 내주기 때문입니다. 역정보 역설에서는 사는 쪽, 즉 AI를 쓰는 기업이 위험을 집니다. 모델을 쓸모 있게 만들려면 자사 고유 지식을 입력해야 하기 때문입니다.

Q. '지능 배출물(intelligence exhaust)'이란 무엇인가요?

A. 기업이 AI를 쓰는 과정에서 자연스럽게 생기는 부산물 데이터를 말합니다. 직원의 프롬프트, 에이전트의 도구 사용 기록, 모델 오류를 바로잡는 수정 내역 등이 해당합니다. 나델라 CEO는 이것이 조직 노하우의 정수이며, 모델 공급자가 여기서 학습한다고 지적했습니다.

Q. 나델라 CEO가 제시한 5가지 원칙은 무엇인가요?

A. 통제(Control), 역량(Capability), 선택(Choice), 비용(Cost), 복리(Compound)입니다. 자체 평가와 데이터 소유권을 지키고, 테넌트 안에서 학습 환경을 만들고, 특정 모델 의존을 끊고, 비용을 최적화해, 결국 기업 자체의 지속 학습 루프를 완성하라는 내용입니다.

Q. 마이크로소프트 CEO가 이런 주장을 하는 배경은 무엇인가요?

A. 나델라 CEO는 학습 인프라를 모든 기업에 분산해야 한다고 주장했습니다. 이는 기업 고객의 데이터 주권 우려를 정면으로 겨냥한 메시지입니다. 애저(Azure) 기반 기업용 AI 사업에서 '고객 지식을 지키는 플랫폼'이라는 포지셔닝을 강화하려는 포석으로 읽힙니다.

Q. 기업이 당장 점검해야 할 것은 무엇인가요?

A. 나델라 CEO는 두 가지 질문을 제시했습니다. 지금 쓰는 모델이 사라져도 운영을 지속할 수 있는가. 그리고 자사의 상호작용 데이터가 동의 없이 공급자에게 흘러가고 있지는 않은가입니다.

[Seoul = Techsuda eyeball@techsuda.com]

다음은 (21) X에서 Satya Nadella 님 : "The Reverse Information Paradox " / X

1️⃣ 전문 번역

역정보 역설(The Reverse Information Paradox)

지능의 시대, 기업은 핵심 지식재산(IP)을 어떻게 지켜야 하는가?

노벨경제학상 수상자 케네스 애로(Kenneth Arrow)는 정보 시장의 역설을 이렇게 설명했다. "정보의 가치는 구매자가 그 정보를 얻기 전까지는 알 수 없다. 그러나 정보를 얻는 순간, 구매자는 사실상 아무 비용 없이 그것을 손에 넣은 셈이 된다." 애로의 '정보 역설(Information Paradox)'에서 위험을 지는 쪽은 판매자다. 지식을 팔기 위해 지식을 그냥 내줄 위험을 감수해야 하기 때문이다.

AI는 정반대의 문제를 만든다. AI 시대에는 구매자가 위험을 진다. 자신이 산 것을 쓰기 위해, 자신의 지식을 내줘야 하기 때문이다.

당신은 본질적으로 지능의 값을 두 번 치른다. 한 번은 돈으로, 또 한 번은 돈보다 더 귀한 것으로 낸다. 바로 그 지능을 쓸모 있게 만들기 위해 드러내야 하는 고유 지식이다. 모델이 더 잘 작동하기를 바랄수록, 더 많은 지식을 모델에 먹여야 한다!

시간이 지날수록 정보 비대칭은 점점 한쪽으로 기운다. 판매자는 당신이 구매한 것을 쓰는 동안 당신에 관해 점점 더 많이 배운다. 반면 당신은 판매자가 무엇을 배우고 있는지 거의 알지 못한다.

이것이 내가 말하는 '역정보 역설(Reverse Information Paradox)'이다.

특허는 애로의 역설 한 축을 해결했다. 발명가는 특허 덕분에 아이디어를 그냥 내주지 않고도 공개할 수 있다. 역정보 역설에도 그에 상응하는 장치가 필요하다.

이는 데이터 보호 이상의 문제다. 모델은 '배출물(exhaust)'에서 배운다. 사람들이 쓰는 프롬프트, 에이전트가 쓰는 도구, 그리고 특히 모델이 틀렸을 때 사람들이 가하는 수정이 그것이다. 모든 수정은 조직의 노하우로 증류된다. 이는 경쟁사가 결코 돈으로 살 수 없는 종류의 지식이다. 동시에 거의 감지되지 않게 새어 나가는 지식이다. 흔적(trace) 하나, 수정 하나, 평가(eval) 하나씩.

지능을 소비하는 순간, 당신은 지능을 창조하고 있다. 그리고 당신이 창조한 것은 당신의 소유여야 한다. 이는 하이에크(Friedrich Hayek)가 말한 의미의 '당신만의 특수한 지능'이다. 다른 누구도 가질 수 없는 시간, 장소, 상황의 지식이다. 그것은 당신이 무엇을 생각하고, 무엇을 중시하고, 성공을 어떻게 측정하는지 안다.

모델 공급자가 공개 데이터로 모델을 학습할 공정이용(fair use) 권리를 갖는 데서 위대한 혁신이 나오는 것은 맞다. 그러나 나는 현재의 관행이 아이러니하다고 본다. 공급자들은 곧바로 돌아서서 증류(distillation)에 제한적인 약관을 부과하고, 고객의 사용·상호작용 데이터에서 배울 권리는 자신들이 챙긴다. 학습이 한 방향으로만 흐르면, 경제적 가치는 지식의 창조자가 아니라 학습 인프라의 소유자에게 수렴한다. 따라서 우리는 학습 인프라를 모든 기업에 분산해, 각 기업이 자신의 학습 루프를 직접 통제하게 해야 한다.

알렉스 카프(Alex Karp)는 이렇게 말했다. "기술 고객들이 원하는 것은 자신의 컴퓨트, 모델, 데이터 스택, 그리고 알파(alpha)를 통제하는 것이다. 그들은 생산수단을 자신이 소유하고 있으며, 그것이 다른 누군가에게 이전되지 않는다는 확신을 원한다." 현재의 체제는 카프와 기업들이 두려워하는 바로 그 이전을 하고 있다.

그래서 기업에는 인적 자본과 토큰 자본이 복리로 쌓이도록 하는 진짜 '신뢰 경계(trust boundary)'가 필요하다. 조직의 데이터, 흔적, 평가, 조정된 가중치, 메모리가 그 안에서 함께 축적되고 개선되는 곳이다. 그리고 이 경계는 단단해야 한다. 동의 없이는 지능 배출물조차 넘어갈 수 없어야 한다. 기업들은 모델 출력물로 자신의 모델을 파인튜닝하거나 학습할 권리를 요구할 것이다. 나는 이를 모든 기업이 자신의 책무성 의무에 맞게 모델을 정렬할 권리라고 생각한다.

클라우드 시대에 기업은 데이터를 축적했다. AI 시대에 기업은 학습을 축적한다. 신뢰 경계도 그에 맞게 진화해야 한다. 정보를 보호하는 데서, 조직이 배우고 적응하고 지능을 복리로 쌓는 메커니즘을 보호하는 데로 나아가야 한다. 이를 위해 모든 기업이 해야 할 일이 몇 가지 있다.

통제(Control): 자체 비공개 평가(private evals)를 만들어라. 평가는 조직 안에서 '좋은 것'이 무엇인지 정의한다. 또 조직의 메모리, 흔적, 피드백, 의사결정, 제도적 맥락의 소유권을 지켜라. 자신의 작업과 질의에서 나온 모델 출력물을 쓸 권리도 지켜라.

역량(Capability): 테넌트 경계 안에 자체 학습 환경을 구축해 모델을 학습하거나 조정하라. 회사의 지식을 노출하지 않고, 실제 워크플로에서 모델이 배우게 하라.

선택(Choice): 오케스트레이션 계층을 특정 모델에서 분리하라. 스스로 물어보라. 지금 쓰는 모델 하나가 사라져도, 다른 모델로 운영하고 자신의 평가에 맞게 최적화할 수 있는가? 특정 '범용(generalist)' 모델이 사라져도 회사의 '베테랑' 역량은 남는가?

비용(Cost): 오케스트레이션 계층을 분리하면, 품질을 희생하지 않고 맥락·모델·작업을 가장 효율적이고 저렴하게 결합할 수 있다.

복리(Compound): 이 네 가지를 합치면 자신만의 지속 학습 루프, 즉 '언덕 오르기 기계(hill climbing machine)'가 만들어진다. AI 투자가 회사의 가치를 복리로 불리게 하는 장치다.

다시 말해, 기업은 자신을 고유하게 만드는 지식을 내주지 않고도 모델을 쓸 수 있어야 한다. 그것이 우리가 마주해야 할 역정보 역설이다.

• 전문 번역에 AI를 활용했다.