날씨가 급변했습니다. 아침 저녁 바람은 언제 그랬냐는 듯 조금은 차갑습니다. 물론 낮의 볕은 여전히 쨍쨍합니다. 시골 고향 집은 더 쌀쌀해진 거 같습니다. 환절기입니다. 저는 모처럼 베란드 창문을 열고 잤다가 감기 기운이 돕니다.

이번 글에서는 정말 모처럼 AWS 이야기를 해보려고 합니다.

AWS는 12일 AWS 코리아 사옥에서 'AWS 아마존 퀵 기자간담회 및 핸즈온 세션'을 열고 업무용 AI 어시스턴트 아마존 퀵을 국내 언론에 처음 소개했습니다. 박혜영 SA가 제품과 기업 도입 사례를, 이다은 리테일·소비재 전문 SA가 업무 자동화 시연을, 김예진 AI 전문 SA가 기자들이 직접 에이전트를 만들어보는 핸즈온 세션을 맡았습니다. 국내에서는 블랙야크, 메가존클라우드, 일성아이에스가 이미 도입해 사용중입니다.

마이크로소프트의 코파일럿, 구글의 제미나이, 오픈AI의 챗GPT, 앤트로픽(Anthropic)의 클로드와 유사한 AI 어시스턴트라고 이해하시면 편합니다.

가서 체험한 이야기를 다루기 전에 몇년 전 이야기를 잠시 들려드리려고 합니다.
전 2023년과 2025년 아마존웹서비스 리인벤트(AWS reInvent)에 다녀왔습니다.
2023년 참가했을 때는 묘한 긴장감 혹은 마이크로소프트가 오픈AI와 손을 잡고 연 새로운 시대에 제대로 대응하지 못해 '공포'를 느끼는 게 아닌가 하는 생각도 들었습니다. 그 이후 앤트로픽에 막대한 투자를 단행하고 앤트로픽이 엔터프라이즈 시장에서 오픈AI를 넘어서면서 AWS는 조금 한 숨을 돌리는 듯 보입니다.

2023년 11월 AWS 리인벤트 2023(AWS re:Invent 2023)에서 업무용으로 특별히 설계돼 고객의 비즈니스에 맞춤화할 수 있는 새로운 유형의 생성형 인공지능(AI) 기반 어시스턴트인 ‘아마존 Q(Amazon Q)’를 발표했습니다. 고객은 아마존 Q를 사용해 긴급한 질문에 대한 관련성 높은 답변을 신속하게 얻고, 콘텐츠를 생성하고, 고객의 정보 저장소(repository), 코드, 엔터프라이즈 시스템에 기반한 조치를 취할 수 있다고 설명했습니다.

올해가 클라우드 서비스 20주년이 되는 해입니다. 사용자들도 많고 서비스도 너무 많아서 이걸 다 알기란 사실상 불가능합니다. 개발자나 엔지니어들도 AWS를 활용해 서비스를 만들어 내지만 모두를 알 수 없습니다. 그래서 아마존 Q에게 어떤 서비스를 쓸 때 어떤 서비스를 활용하면 되는지 물어볼 수 있습니다.

고객 센터에서 매번 물어보지 않아도 되는 거죠. 가장 필요한 영역에 가장 먼저 적용하는 센스를 보여줬다고 봤습니다. 당시에 그 서비스를 위해 어떤 LLM의 어떤 버전을 쓰는지 물어봤지만 돌아온 답변은 "그게 핵심이라 공개 불가"였습니다.
전 그 이후 LLM 확보 못지 않게 수많은 LLM들을 고객의 업무에 따라 어떤 버전을 활용해 처리할 수 있는지, LLM 서빙 능력과 토큰 대비 비용 이슈가 관련 사업의 핵심이 될거라고 판단했습니다. 이런 노하우를 누가 더 빨리 축적하고 데이터센터 구축부터 서비스까지 빠르게 제공하느냐가 핵심인 완전한 '인프라' 전쟁이라고 봤습니다.

지금 대부분 이런 이야기들이 많이 나오고 있으니 예측에 성공해서 기쁘긴 합니다. 하지만 그걸 제대로 취재하고 전달해드리지 못한 건 뼈아픈 일입니다. 페이스북에는 다 써놓고 정작 기사로 작성하지 않은 게 너무 많네요.

아마존 퀵은 이름은 새롭지만 뿌리는 오래됐습니다. 2015년 클라우드 BI 도구 아마존 퀵사이트(QuickSight)로 출발해 자연어 질의와 생성형 BI를 거쳤고, 앞서 설명한대로 2024년 문서·이메일 같은 비정형 데이터를 다루는 아마존 Q 비즈니스가 붙었습니다. 정형 데이터 엔진과 비정형 데이터 엔진을 묶고 그 위에 판단하고 실행하는 에이전트를 올린 것이 현재의 아마존 퀵입니다. AWS도 이를 "10년간 검증된 엔터프라이즈 BI 위에 AI를 얹었다"고 설명합니다.

아마존의 이 AI 어시스턴트가 과연 여러 경쟁자들의 틈바구니 속에서 입지를 제대로 구축할 수 있을까에 대한 글입니다. 오지랖이죠. 무료 버전들도 있으니 한번 체험해 보시고 어떤지 좀 알려주세요.

테크수다에서 전문 계속 읽기 →