서울 기온이 4도까지 떨어진 날 한남동에 다녀왔습니다. 팔란티어가 연 두 번째 서울 팝업스토어입니다. 기술 설명회는 안 하면서 모자와 티셔츠를 파는 회사입니다. 이날은 제가 가장 먼저 도착했습니다. 살다 보니 이런 날도 있습니다. 지갑도 열어보려 했는데 후드티 한 벌이 25만원 가량이라 조용히 닫았습니다. 그 돈이면 차라리 주식을 사야겠다 싶었습니다.

쉽게 만날 수 없는 두 사람이 왔습니다. 아크셰이 크리슈나스와미 수석 아키텍트와 채드 월퀴스트 AI 아키텍처 총괄입니다. 한 시간 동안 순차 통역으로 기자들 질문을 받았습니다. 올해 팝업 주제는 소버린 AI였습니다. 미국 회사가 왜 이걸 주제로 잡았을까 궁금했는데 답은 분명했습니다. 주권은 국산 모델을 고르는 문제가 아니라 데이터, 컴퓨팅, 모델, 배포 위치, 업무 프로세스까지 모든 계층의 결정권을 고객이 쥐는 문제라는 겁니다.

국가대표 모델 경쟁에 힘을 쏟는 한국에 대고 "모델 선택은 주권의 일부일 뿐"이라고 말한 셈입니다. 어떤 모델이든 얹을 수 있는 플랫폼을 파는 회사이니 사업 논리와도 딱 맞아떨어집니다. 다만 미국 클라우드법 질문에는 배포 위치를 고객이 정한다는 원칙으로 답했습니다. 미국 법인인 팔란티어 자체에 대한 요구가 어디까지 미치는지는 고객이 계약으로 따져봐야 할 숙제입니다.

저는 온톨로지를 쉽게 설명해 달라고 했습니다. 요즘 너도나도 온톨로지를 말하니까요. 업무가 실제로 돌아가는 모습을 그대로 옮긴 디지털 트윈이라고 했습니다. 데이터만이 아니라 로직, 실행, 보안까지 담아야 "그다음 무엇을 할지"까지 간다는 겁니다. 판단 기준도 간단했습니다. 그 온톨로지가 조선소 생산 일정을 더 잘 짜게 해주느냐, 아니면 화이트보드 위 그림이냐.

가장 날이 선 대목은 FDE였습니다. 앤트로픽이 1만 명을 길러내겠다고 나섰고 마이크로소프트, AWS, 네이버클라우드까지 같은 이름을 씁니다. 크리슈나스와미 수석 아키텍트는 남들의 FDE는 "결국 다시 컨설턴트"라고 잘라 말했습니다. 현장 엔지니어가 제품을 고칠 권한이 있느냐, 특정 제품 판매가 아니라 고객 성과에 묶여 있느냐가 기준입니다. 제품을 만드는 조직과 구현하는 조직이 따로였던 기존 테크 기업들과는 접근이 많이 다릅니다. FDE 조직을 꾸리는 국내 SI와 클라우드 기업들도 피해갈 수 없는 질문입니다.

반가운 대목도 있었습니다. CES 2023 때 팔란티어 부스에서 HD현대 지게차를 본 기억이 납니다. 월퀴스트 총괄은 바로 전날 부산 HD현대 현장에서 고객 자체 모델을 선박에 올리고 엣지에서 온톨로지를 돌리고 왔다고 했습니다. 몇 해 사이 협력이 거기까지 왔습니다.

공교롭게도 같은 주 젠슨 황도 베를린 기조연설에서 팔란티어와 탬파 제너럴 병원 사례를 소개했습니다. 그 모델을 만든 사람이 MIT를 중퇴하고 석 달 전 합류한 스무 살 엔지니어랍니다. 엔비디아는 오토 온톨로지까지 들고 나왔습니다. 두 회사가 같은 말을 하고 있습니다. 모델보다 기업이 가진 지식과 업무가 경쟁력이라는 겁니다.

그들이 한국에 던진 조언은 이랬습니다. AGI를 기다리지 말고, 조선과 제조처럼 AI가 아직 잘 못 다루는 현장에서 한국 기업이 쌓아온 지식으로 특화 모델을 만들라는 것. 결국 한국 제조업의 데이터를 누가 쥐고 어떻게 쓰느냐로 돌아옵니다. 소버린 AI의 진짜 시험대는 거기에 있다고 봅니다.

Asymmetric trust production in human–AI augmentation: the structural vulnerability of affected groups

AI 채용을 도입하는 기업과 공공기관이 늘고 있습니다. 사람을 돕는 AI, 즉 인간-AI 증강(HAA)은 의사결정의 신뢰를 높일 거라 기대받습니다. 하지만 기존 연구는 AI를 직접 쓰는 사람의 신뢰만 봤습니다. 면접관이나 인사담당자가 AI를 어떻게 믿는지는 다뤘지만, 결정의 결과를 받는 지원자가 그 결정을 어떻게 믿는지는 잘 다루지 않았습니다.

한양대 연구진은 '비대칭적 신뢰 생산'이라는 이론을 세웠습니다. AI 보조가 사용자의 신뢰를 높이는 동시에, 영향을 받는 집단의 신뢰 형성을 구조적으로 제약할 수 있다는 것입니다. 특히 무엇이 옳은지 해석이 갈리는 모호성(equivocality)과, AI가 어떻게 작동하는지 보이지 않는 불가시성(invisibility)이 큰 맥락에서 그렇습니다.

연구 1은 채용·재판·장학금 선발 시나리오를 쓴 비네트 실험입니다. 불리한 결과를 받은 경우, 영향을 받는 집단은 인간 단독 결정보다 AI 보조 결정에서 더 낮은 신뢰를 보였습니다. 모호성과 불가시성을 높게 느낄수록 신뢰는 더 낮아졌고, 이 경향은 시나리오를 합친 분석에서 더 또렷했습니다.

연구 2는 실제 구직자 설문과 구조방정식 모형입니다. 제도의 투명성과 사회적 영향이 이의제기 가능성·절차 공정성·제도적 책무성을 거쳐 AI와 AI 보조 결정에 대한 신뢰를 떠받쳤습니다. 다만 일부 경로는 부분적 지지에 그치거나 지지를 받지 못했습니다.

기업의 상식과는 반대되는 지점이 있습니다. 기업은 "AI가 1차로 결과를 내면 사람이 최종 검토하니 안전하다"고 생각합니다. 하지만 이 구조는 인사담당자의 신뢰는 높여도, 결과를 받는 지원자의 신뢰는 오히려 깎을 수 있습니다. 해법은 기술보다 조직에 있습니다. AI가 어느 단계에서 무엇을 평가했는지 공개하고, 채용 절차가 공정해야 신뢰가 회복됩니다. 설계 범위는 기업 내부의 인사담당자를 넘어, 결과를 받는 지원자까지 넓혀야 한다는 것이 이 논문의 결론입니다.

다만 실험은 시나리오 기반이고, 설문 모형의 일부 경로는 부분 지지에 그쳤다는 점은 염두에 둬야 합니다. 일반화에는 후속 연구가 필요합니다. 모처럼 한국 저자들의 글을 소개할 수 있어 좋네요.

<소스>
Information & Management(impact factor 7.0, 2026년 6월 JCR 기준) 게재