오픈AI ChatGPT이 얼마 전 개발자 행사를 했습니다. 이 서비스가 등장한 후 지금까지 오픈AI는 무려 40개의 모델을 발표했다고 합니다. 오픈AI는 9월 3일 GPT-6 아스트라(Astra)에 이어 22일 GPT-6 솔(Sol)·루나(Luna), 29일 GPT-6.1 솔을 출시했습니다. 앤트로픽은 22일 클로드 오퍼스 5.5(Claude Opus 5.5)를 선보였고 이 대열에서 주춤하던 구글도 30일 제미나이 4 아르곤(Gemini 4 Argon)을 발표하면서 두 스타트업의 독주를 허락하지 않겠다는 입장입니다.

이들의 경쟁 속에서 중국 기업들은 오픈웨이트 모델을 선보였습니다. 오픈라우터(OpenRouter)가 공개한 자료에 따르면 2026년 8월 미국에서 발생해 자사 플랫폼으로 들어온 요청의 토큰 가운데 약 60%가 오픈웨이트 모델로 향했습니다. 오픈라우터는 중국 연구소의 모델이 해당 물량의 대부분을 차지한다고 설명했습니다. 이 통계는 오픈라우터 내부의 이용 현황이며, 미국 전체 AI 시장 점유율을 뜻하지 않습니다.

외부 기업들에 의존하던 마이크로소프트는 6월 개발자 행사인 빌드 2026에서 7개의 새로운 마이크로소프트 AI 모델을 발표했습니다. 그러면서 실제 업무를 처리할 때 비용 효율성을 들고 나왔습니다. 거대 모델은 거기에 맡는 일을 처리하도록 하고 그렇지 않은 업무의 경우 저렴한 비용이지만 성능이 떨어지지 않는 자사 모델을 적용하겠다는 뜻입니다.

기업들은 이제 실제 업무를 처리했는지 주목하고 있습니다. 엄청난 토큰을 썼지만 실제 맡긴 일을 끝냈다는 것이죠. 인프라 팀들은 어떤 모델들이 등장하는지 파악하는 동시에 여러 모델 중 업무별로 알맞는 걸 찾아서 적용해야 하는 능력을 갖춰야 하는 문제에 직면했습니다. 스위스 칼을 보는 거 같습니다.

쉼없이 달려가는 그들을 보면서 언제 멈추느냐고 말해봐야 소용이 없습니다. 이 치킨 게임은 멈추는 순간 죽고 그간 쌓은 노력은 다 물거품이 되기 때문입니다. 이들 경쟁 속에서 등장하는 성과물들을 내부에 적용하는 일은 생각보다 무척 어렵고 지난한 일입니다. 글로 끄적이는 저 같은 이들조차 따라가기 버거운데 여러분들은 오죽하시겠습니까.

1분기가 이전 테크 분야 1년 같습니다. 긴 호흡으로 대응하는 수밖에 달리 방도가 없어 보입니다. 그럼에도 불구하고 이들의 변화를 외면하는 순간 따라갈 수 없을 거 같은 공포도 있습니다. 공포 마케팅이가 싶기도 합니다.

4분기입니다. 한 해를 마무리하면서 동시에 새로운 해를 준비해야 합니다. 아마도 더 이상 이런 긴 계획이 의미가 없을지도 모릅니다. 그래도 어느 정도 방향을 마련해놔야 바로 바로 대응할 수 있을 거 같습니다. 2027년 예측 자료들도 많이 쏟아질텐데요. 너무 조찬 많이 가지 마세요. 큰 흐름이지 지금 바로 당장 적용하라는 건 아닙니다.

리더들의 역할이 더 중요해지는 시기입니다. 50대 중반인데 며칠 전 후배에게 저희 세대 욕을 엄청 먹었습니다. 왜 그런가 봤더니 권한을 가진 이들이 이런 변화를 적극 수용하지 않는다는 거였습니다. 과거 방식의 업무처리에 너무 매몰되어 있다는 거였죠. 일신우일신하고 스스로 이 변화에 몸을 던져야 하지 않을가 싶습니다. 다들 화이팅 ^.^

사람이 만든 정답 데이터 없이 에이전트를 키우는 자기 진화(self-evolving) 방식이 확산되고 있습니다. 출제자 모델이 문서에서 문제와 정답을 만들고, 풀이자 모델이 그걸 풀며 배우고, 풀이자의 정답률에 따라 출제자가 다시 보상을 받는 순환 구조입니다. 그런데 이 고리 안에서 '맞혔다'는 판단은 오직 두 모델의 답이 일치하느냐로만 정해집니다.

연구진은 이 고리를 외부 판정 모델로 사후 감사했습니다. 학습 1라운드에 0.3~0.4%에 불과하던 '틀린 답에 대한 합의'가 3라운드에는 6.1~8.8%로 뛰었습니다. 내부 보상은 오르는데 실제 정답률은 제자리였습니다. 연구진은 이를 공모 부정행위(co-cheating)라 부릅니다. 의도적 담합이 아니라, 틀린 정답으로 배운 풀이자가 같은 출처의 다음 문제에서 그 오답을 되풀이하고, 그 일치가 다시 보상이 되는 구조 탓입니다.

해법인 크로스핏(CrossFit)은 단순합니다. 원본 문서를 A, B 두 묶음으로 나누고, A에서 나온 문제는 B로만 학습한 보조 풀이자가 채점합니다. 채점자가 그 출처의 오답을 배운 적이 없으니 같은 실수가 보상으로 돌아올 길이 끊깁니다.

틀린 합의는 3.0~3.7%로 절반 이하가 됐고, 7개 검색 벤치마크 평균 정확도는 기존 방식보다 8.4~8.8포인트 올랐습니다. 반면 같은 모델에 여섯 번 다시 물어 정답을 검증하는 방식은 연산 예산을 약 90% 늘리고도 개선 폭이 1포인트에 못 미쳤습니다. 정답을 더 꼼꼼히 확인하는 것보다 채점자가 무엇을 보고 배웠는지를 끊어주는 쪽이 훨씬 효과적이었다는 뜻입니다.

AI가 만든 데이터로 AI를 학습시키는 파이프라인을 운영한다면, 평가 모델의 학습 이력부터 분리해야 한다는 교훈입니다. 다만 실험은 40억·90억 파라미터의 소형 큐원(Qwen) 모델에 그쳤고, 감사 자체도 또 다른 AI 판정 모델에 기대고 있으며, 보조 풀이자를 따로 돌리는 데 예산이 70~80% 더 듭니다.

9월 둘째 주에 소개한 에이전트 담합 논문이 서로 다른 주인의 에이전트들이 속고 속이는 장면을 보여줬다면, 이번 논문은 한 시스템 안의 두 모델이 서로의 실수를 키우는 과정을 수치로 잡아냈습니다. 허깅페이스(Hugging Face) 데일리 페이퍼 주간 5위(392표).

<소스>
False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents (arXiv 2609.39102)