"인간과 AI 에이전트의 협업 시대, 프론티어 기업이 이끄는 비즈니스 혁신"···마이크로소프트 '2025 업무동향지표' 발표

[테크수다 기자 도안구 eyeball@techsuda.com] 오성미 한국마이크로소프트 모던워크 비즈니스 총괄 팀장은 "2024년 업무 동향지표(2024 Work Trend Index) 보고서에서는 기업들이 AI 전략을 수립하는 과정에서 직원들이 더 빠르게 AI를 도입해 파워 유저가 탄생하고 있다는 점을 강조했다"며 "올해 리포트를 보면 계단식 변화가 아니라 굉장히 빠른 속도로 도약적인 변화가 일어나고 있다"고 설명했다.

▲ 오성미 한국마이크로소프트 모던워크 비즈니스 총괄 팀장이 ‘2025 업무동향지표’ 기자간담회에서 보고서 주요내용에 대해 발표하고 있다.

마이크로소프트가 'AI 시대의 새로운 업무 생태계'를 조망하는 '2025 업무동향지표(Work Trend Index)' 연례 보고서를 발표했다. 올해로 5회째를 맞은 이 보고서는 AI 기술 발전이 가속화되면서 조직의 구조와 일하는 방식이 근본적으로 변화하고 있음을 보여준다. 특히 인간과 AI 에이전트가 함께 일하는 '프론티어 기업(Frontier Firm)'의 등장과 '에이전트 보스(Agent Boss)' 개념의 부상은 미래 조직의 청사진을 제시한다.

l   인간-에이전트가 함께 일하는 프론티어 기업 등장, 82% 리더 “2025년은 경영 전환점”

l   언제든지 사용할 수 있는 지능의 등장… 82% 리더, 디지털 노동력 통해 인간 역량 확대 기대

l   46% 리더, 에이전트 통해 업무 자동화 시스템 구축… 고객 서비스, 마케팅, 제품 개발에 AI 투자

l   직원 52%, 리더 57% 직업 안정성 보장되지 않는다고 여겨…  AI 리터러시 주목받는 역량으로 부상

l   인간-에이전트 협업 강화 ‘M365 코파일럿’의 주요 기능도 공개… 코파일럿 서치, 크리에이트 등

2025: The Year the Frontier Firm Is Born
Intelligence on tap will rewire business. Every leader needs a new blueprint. The time to act is now. The question is: how will you adapt?

한국마이크로소프트는 29일 기자간담회를 열고 '2025 업무동향지표'의 주요 내용을 소개했다. 이 조사는 한국을 포함한 31개국 3만 1000명의 근로자를 대상으로 한 설문조사와 마이크로소프트 365에서 수집된 생산성 데이터, 링크드인의 노동·채용 트렌드, AI 전문가 및 경제학자와의 협업을 통해 도출됐다.

자레드 스파타로(Jared Spataro) 마이크로소프트 AI 기업 부문 부사장은 "AI는 조직의 경영 전략은 물론, 우리가 인식하는 지식 노동의 개념을 바꾸고 있다"며, "2025년은 프론티어 기업이 탄생한 해로, 앞으로 몇 년 안에는 AI를 통해 대부분의 산업과 조직에서 직원의 역할 경계가 새롭게 정의될 것"이라고 말했다.

'프론티어 기업'의 탄생

이번 보고서의 가장 주목할 만한 발견은 '프론티어 기업'의 등장이다. 프론티어 기업은 말 그대로 '선두에서 개척하는' 기업으로, AI 시대에 선두 그룹으로 진화하고 있는 기업들을 지칭한다. 이들은 인간과 AI 에이전트로 구성된 하이브리드 팀을 중심으로 유연하게 운영되며, 빠른 성장과 성과 창출이 특징이다.

오성미 팀장은 프론티어 기업의 진화 단계를 세 단계로 설명했다.

"첫 번째 단계는 많은 기업에서 지금 활용하고 있는 것처럼 개인의 생산성을 돕기 위한 어시스턴트로 AI가 활약하는 단계입니다. 자료 검색, 보고서 작성, 문서 요약, 콘텐츠 생성 등을 지원하죠. 두 번째 단계는 AI 에이전트가 팀의 업무에 들어와 사람의 지시에 따라 특정 태스크를 해결하는 단계입니다. 세 번째 단계는 더 진화된 형태로, 에이전트가 작은 태스크뿐 아니라 능동적으로 중요한 프로젝트에 팀원처럼 참여해 전체 과정을 진행하고 결과물을 제공하는 단계입니다."

리포트에 따르면, 전체 리더의 81%는 향후 12~18개월 내에 자사 AI 전략에 AI 에이전트가 광범위하게 통합될 것으로 기대하고 있다. 이미 24%의 리더들은 전사 차원의 AI 도입이 이루어졌다고 응답했으며, 시험 운영 단계에 머물러 있다고 답한 비율은 12%에 불과했다.

프론티어 기업에 근무하는 직원들의 인식은 일반 기업과 확연히 달랐다. 31개국 3만 1000명 중 프론티어 기업 직원으로 분류된 844명(약 2.7%)의 응답을 분석한 결과, 이들 중 71%는 자사가 빠르게 성장하고 있다고 답했으며, 이는 글로벌 평균(37%)의 약 두 배에 해당한다.

또한 프론티어 기업 직원의 55%는 현재보다 더 많은 업무를 감당할 여력이 있다고 응답했는데, 이 역시 글로벌 평균(20%)을 크게 웃도는 수치다. 자신의 커리어 전망에 대한 자신감도 93%로, 글로벌 평균(77%)보다 높았다.

오성미 한국마이크로소프트 모던워크 비즈니스 총괄 팀장은 "프론티어 기업 직원들은 'AI를 써서 다른 시간을 절약하고 업무를 위임할 수 있었기 때문에 지금 하고 있는 것보다 더 많은 일을 할 수 있다'고 답했습니다. 그리고 '나의 장래는 당연히 밝을 것'이라고 긍정적으로 바라보고 있었죠"라고 말했다.

'언제든지 사용할 수 있는 지능(Intelligence on tap)'의 부상

보고서는 AI의 급속한 발전으로 인해 인간의 시간과 에너지에 의존하던 지능이 언제든지 사용할 수 있는 자원으로 변화하고 있다고 분석했다. 합리적 사고, 계획, 행동이 가능한 AI와 에이전트의 등장으로 이제 기업은 필요에 따라 팀과 개인의 역량을 확장할 수 있게 되었다.

이는 기업이 직면한 '역량 격차(Capacity Gap)' 문제를 해결하는 데 도움이 될 것으로 기대된다. 리더의 53%(한국 65%)는 지금보다 더 높은 생산성이 필요하다고 답했지만, 근로자의 80%(한국 81%)는 업무에 집중할 시간이나 에너지가 부족하다고 느끼고 있었다.

디지털화의 장점은 빠른 커뮤니케이션과 협업, 전체적인 속도 향상이지만, 반면에 커뮤니케이션 창구가 굉장히 늘었다. 회의, 이메일, 채팅 등 디지털 접점이 늘어나다 보니 직원들은 많은 일을 하고 있지만 시간과 체력의 한계를 느끼고 있다.

마이크로소프트 365 사용자 행동 데이터를 분석한 결과, 직원들은 회의, 이메일, 알림 등으로 하루 평균 275번 업무 방해를 받고 있으며, 10건의 회의 중 6건은 별다른 예고 없이 갑자기 열리는 것으로 나타났다.

이런 상황에서 82%의 글로벌 리더(한국 77%)는 향후 12~18개월 내에 디지털 노동력을 활용해 인력의 역량을 확대할 수 있을 것으로 기대하고 있다.

오성미 총괄 팀장은 "사람이 가진 인텔리전스는 지금까지 사람의 고유 영역이었지만, AI가 단순히 자료 검색이나 문서 요약 단계를 넘어 보다 깊은 사고, 추론, 복잡한 문제 해결, 창작까지 담당하는 형태로 진화하고 있습니다"라고 말했다.

인간과 에이전트가 함께 만드는 새로운 조직

보고서는 AI 네이티브 기업들이 비즈니스 전략을 세울 때 현재 조직 구조만 고려하는 것이 아니라, 디지털 노동력을 포함해 조직 전체를 어떻게 구성하고 프로젝트를 진행할지를 염두에 두고 있다고 지적했다.

이들의 조직도에는 AI 에이전트가 이미 포함돼 있다. '이 업무는 AI가 훨씬 잘하니 위임할 수 있다'는 식이다. 에이전트는 여러 팀에서 동시에 활용될 수 있다는 장점도 있다. 사람은 분신할 수 없지만, AI 기술은 하나를 가지고 여러 곳에서 사용할 수 있다.

이런 변화를 반영해 보고서는 전통적인 조직 구조를 보완할 새로운 모델로 '워크 차트(Work Chart)'를 제시했다. 기존 조직이 재무, 마케팅, 엔지니어링 등 기능 중심으로 팀을 구성했다면, 워크 차트는 부서가 아닌 달성해야 할 목표를 기준으로 팀을 유연하게 구성하는 방식이다.

오 총괄 팀장은 "기존에는 팀이 제품 개발, 고객 지원, 마케팅처럼 기능 중심으로 구성됐다면, 앞으로의 조직도는 더 유연하고 탄력적으로, 당장 우선적으로 해결해야 하는 프로젝트 중심으로 필요한 디지털 노동력을 포함해 팀을 구성하게 될 것입니다"라고 설명했다.

모든 팀이 동일한 속도로 AI 기술을 도입하지는 않겠지만, 현재 AI 투자 효과가 가장 클 것으로 예상되는 분야는 제품 개발, 고객 서비스, 마케팅 등이다. 인사와 교육 부문에도 AI가 많이 도입될 것으로 전망된다.

'인간-에이전트 비율'의 중요성과 과제

인간과 에이전트 간 역할 분담을 측정할 수 있는 운영 지표로 '인간-에이전트 비율(Human-agent ratio)'의 필요성도 제시됐다. 하이브리드 팀의 생산성을 극대화하기 위해서는 에이전트의 수뿐 아니라, 이들을 효과적으로 조율하고 관리할 수 있는 인간의 수도 함께 고려해야 한다는 것이다.

그는 "팀장으로서 팀원 한 명도 없이 AI 에이전트만 데리고 일할 수 있을까요? 아니면 적절한 비율이 1:3일까요, 1:4일까요? 아직 이번 조사에서는 베스트 프랙티스가 공유되지 않았습니다. 비즈니스 환경에 따라 크게 달라질 수 있기 때문에, 각 팀이 AI 에이전트를 통해 가장 성공적인 결과를 도출할 수 있는 업무 영역이 무엇인지 확인하고 적절한 방식으로 에이전트를 편입시켜야 합니다"라고 조언했다.

기자 간담회에서 "프론티어 기업들 사이에서 직원 한 명당 에이전트 수와 같은 평균적인 수치가 있는지" 질문이 있었다.

이에 오성미 팀장은 "현재로서는 명확한 정답이 없다"며 KT 사례를 들었다.

"KT 같은 경우는 현업에 있는 분들이 본인의 문제를 가장 잘 알기 때문에 에이전트 개발에 대한 요구가 높아요. 한 팀에서 에이전트를 8개나 만들었는데, 실제 사용해 보니 그 중 2개는 일을 잘 하고 3개는 성과가 비슷했죠. 이를 모두 유지하는 것이 나을지, 아니면 잘 활용되는 2개에 집중하는 것이 나을지 판단하는 것은 경험이 필요한 부분입니다."

직원들이 AI 에이전트를 적극적으로 도입하는 이유로는 크게 세 가지가 꼽혔다.

첫째, 24시간 시간 제약 없이 활용할 수 있다. "사람은 잠도 자야 하고, 휴가를 가거나 다른 프로젝트를 겸하고 있어 업무 밴드위스가 제한적입니다. 하지만 에이전트는 정해진 전문 영역에 대해 위임하면 24시간 일하고 결과를 받아볼 수 있습니다."

둘째, 일정한 속도와 품질을 보장한다. "사람의 경우 에너지 레벨이나 업무 숙련도에 따라 편차가 생길 수 있지만, AI는 일정한 속도와 품질을 보장합니다. 마치 교통 체증이 있는 도로와 시간을 예측할 수 있는 도로의 차이처럼 예측 가능성이 높죠."

셋째, 무제한 아이디어를 제공한다. "최근 워크샵에서 새로운 아이디어를 내라고 했는데, 참석자들이 비슷한 생각을 가진 사람들이라 아이디어가 잘 나오지 않았어요. AI의 도움을 받았더니 계속해서 새로운 아이디어가 나왔고, '우리보다 나은 것 아니야?' 싶을 정도였습니다."

실제 설문 결과에서도 직원들이 AI를 선호하는 이유로 △24시간 이용 가능성(42%, 한국 27%), △일정한 속도와 품질(30%, 한국 33%), △무제한 아이디어 제공(28%, 한국 25%) 등이 꼽혔다.

'에이전트 보스(Agent Boss)' 시대의 도래

보고서는 AI 에이전트의 활용이 본격화되면서 '에이전트 보스' 시대가 도래할 것으로 전망했다. 에이전트 보스는 한 개 이상의 AI 에이전트를 관리하는 사람을 의미한다.

에이전트 보스가 되려면 적어도 AI가 잘하는 부분을 이해하고 있어야 에이전트에게 어떤 일을 위임할지 결정할 수 있다. 팀을 운영하거나 동료와 일할 때 업무 분장을 하듯이, 각자의 역량과 전문 분야에 따라 일을 나누는 것과 같은 원리라는 설명이다.

흥미로운 점은 2024년 보고서에서는 직원들이 AI 도입과 활용을 주도한다는 발견이 있었지만, 올해는 양상이 달라졌다는 것이다. 에이전트 보스 마인드셋 측면에서는 리더들이 직원들보다 더 준비가 되어 있는 것으로 나타났다.

에이전트를 활용하는 것, 결과를 평가하는 것, 실험하는 것 등 7개 지표로 에이전트 보스 마인드셋을 측정했더니, 여러 부문에서 리더들이 이미 더 '에이전트 보스화'되어 있었다. 오 팀장은 "아마도 관리 경험이 있기 때문일 겁니다."라고 설명했다.

조사 결과, 에이전트에 익숙하다고 답한 비율이 리더는 67%(한국 70%)인 반면 직원은 40%(한국 32%)에 그쳤다. 리더의 약 3분의 1은 AI를 통해 하루 1시간 이상을 절약한다고 응답했으나, 직원들은 이보다 낮았다. AI가 커리어에 도움이 될 것이라고 본 비율도 리더는 79%, 직원은 67%로 차이가 있었다.

28%의 관리자는 인간과 AI로 구성된 하이브리드 팀을 이끌 담당자를 채용할 계획이며, 32%는 에이전트 설계·개발·최적화를 위해 12~18개월 내 AI 에이전트 전문가를 채용할 의향이 있다고 밝혔다.

AI 에이전트 관리의 도전과제

또 다른 질문도 있었다.

"에이전트를 관리하는 것도 에이전트가 할 수 있지 않을까? ROI 분석도 에이전트가 할 수 있을 것 같은데"라고 질문했을 때,

오성미 팀장은 '슈퍼 에이전트' 개념을 언급하면서도 한계를 지적했다.

오성미 한국마이크로소프트 총괄 팀장

"한 가지 에이전트가 특정 업무 영역을 담당한다면, 에이전트가 많을 때 어떤 에이전트가 특정 일을 가장 잘할 수 있는지 찾는 '슈퍼 에이전트' 개념도 있습니다. 하지만 관리 문제는 조금 다를 수 있어요. AI 에이전트가 평가하는 것들은 정량적인 데이터로 '예/아니오'로 판별할 수 있지만, 많은 상황에서 정량적인 것 외에 정성적인 요소도 고려해야 합니다. 인사 평가나 고객 지원에서 워딩의 감정적 뉘앙스 같은 부분에는 휴먼 터치가 반드시 필요합니다. 완전히 에이전트가 사람을 대체할 수는 없고, 적정 비율로 사람이 적절한 시점에 개입할 수 있도록 설계되어야 합니다."

에이전트의 비용 효율성에 대한 고려도 중요하다.

"에이전트는 컴퓨팅 파워를 사용합니다. AI 언어 모델도 써야 하고, 데이터에 추론을 하려면 추론 모델도 사용해야 하기 때문에 모두 비용으로 나갑니다. 24시간 일하지만 그만큼 비용이 발생하죠. 무한정 늘리는 것이 ROI 측면에서 유의미한지 분석해야 합니다."

그는 기업들이 마이크로소프트의 M 365의 생성형 AI 도입 시 대략 어느 정도 비용이 늘고 있는지 파악이 되었냐는 질문에 "초기 테스트를 한 후 대략 100명을 사용하다가, 200명, 300명 순차적으로 늘리는 경향이 있지만 아직 비용을 단계적으로 파악하지는 않았습니다"라고 전했다.

에이전트 관리를 위한 새로운 조직 구조

조직 내에서 AI 에이전트를 관리하는 책임은 어느 부서에 있어야 할까? 오성미 팀장은 전통적인 IT 부서나 인사팀의 역할이 변화할 가능성을 제시했다.

"현재 인사관리팀(HR)이 있는데, 디지털 노동력인 AI 에이전트의 관리는 어디서 해야 할까요? IT 부서라고 생각할 수 있지만, 제품 개발에 필요한 특정 업무를 IT 부서에서 할당하고 평가하는 것은 어렵습니다. 현업의 구체적인 업무 지식이 필요하기 때문이죠. 그래서 사람을 관리하는 것처럼 AI 에이전트와 디지털 노동력을 관리하는 '리소스 매니지먼트 팀'이 새롭게 필요할 수 있습니다. 또는 HR이 사람과 디지털 HR을 함께 관리하는 형태로 역할이 바뀔 수도 있고요."

이는 단순히 기술을 도입해 생산성을 높이는 차원을 넘어, 조직의 기본 틀 자체를 다르게 생각해야 한다는 의미다. "이 부분이 이번 리포트에서 굉장히 중요한 발견이라고 생각합니다."

2025년 가장 주목받는 역량, AI 리터러시

링크드인이 전망한 2025년 가장 주목받는 역량은 단연 'AI 리터러시(literacy)'다. AI 리터러시는 AI를 이해하고, AI가 가장 잘할 수 있는 일을 파악해 업무를 위임할 수 있는 능력, 그리고 에이전트를 개발하고 관리하는 역량을 통칭한다.

AI 역량뿐 아니라, 갈등 해결이나 조직 적응력 같은 부분도 여전히 중요하다. AI에 업무를 위임하려면 업무 프로세스를 잘 알고 어느 단위의 업무를 자동화할지 결정해야 하는데, 이런 결정은 사람이 해야 한다. 여러 단계의 업무를 새롭게 디자인하는 혁신적 사고와 같은 인간 고유의 역량이 더욱 중요해지고 있다.

직원들이 AI 기술을 학습하고 실무 경험을 쌓을 기회를 확보하는 것이 중요하며, 기업은 이를 위한 교육과 도구를 적극 제공해야 한다는 제언도 있었다. 직원의 52%, 리더의 57%는 자신이 속한 산업의 직업 안정성이 보장되지 않는다고 여기고 있으며, 81%의 직원이 지난 1년간 이직하지 않은 것으로 나타났다.

AI 스타트업들이 많이 등장하면서 고용 시장의 동향도 달라지고 있다다. 유망 스타트업의 고용 증가율은 빅테크 기업 증가율의 두 배에 달하고, 리더의 78%가 AI 특화 직무 채용을 고려하고 있다. AI 트레이너, 에이전트 개발자, 데이터 분석 전문가 등 새로운 직무들이 생겨나고 있다.

프론티어 기업의 실제 사례

간담회에서는 바이엘, 다우케미컬, 웰스파고 등 전통 기업들이 AI를 활용해 프론티어 기업으로 변모한 사례가 소개됐다.

제약회사인 바이엘은 제품 개발 부문에서 AI 에이전트를 활용해 주당 6시간을 절감하고 있다. 농업 혁신 관련 제품 개발 기간을 단축해 시장 진입 속도를 높였다.

다우케미컬은 물류 운영에 AI 에이전트를 도입했다. 배송 후 인보이스 처리 과정에서 발생하던 오차를 AI 에이전트가 근거 데이터를 비교해 찾아내 정확도를 높였다. 이를 통해 물류 정확성과 청구 오퍼레이션 전반을 개선해 수억 원의 비용 절감을 기대하고 있다.

은행업계의 웰스파고는 4천여 개 지점의 3만 5천 명 직원들이 고객 응대 시 활용하는 정보 검색 시스템을 AI 에이전트로 전환했다. 현재 75%의 정보 검색을 AI 에이전트를 통해 처리하고 있으며, 기존에 10분 이상 걸리던 검색 시간을 30초로 단축했다. 이를 통해 고객 대응 속도를 높이고 기다리는 시간을 줄여 비즈니스 기회를 확대했다.

마이크로소프트 365 코파일럿의 새로운 기능

마이크로소프트는 2025 업무동향지표의 발견을 반영해 마이크로소프트 365 코파일럿의 새로운 기능들을 공개했다.

김현지 한국마이크로소프트 모던 워크 고투마켓(GTM) 부트 마켓 매니저

김현지 모던 워크 GTM 부트 마켓 매니저는 "AI가 스스로 판단하고 주도적으로 업무를 수행하는 에이전트 AI 시대에 접어들었습니다"며 "단순히 질문에 답하는 수준을 넘어 업무를 대신 수행하고 사용자의 의도를 파악해 실행까지 연결시켜주는 AI로 진화하고 있습니다"라고 설명했다.

가트너에 따르면 2028년이면 엔터프라이즈 소프트웨어의 3분의 1 이상이 에이전트를 포함하게 될 것으로 전망된다. 이는 동료들과 함께 업무를 수행하는 핵심 주체로 AI가 단순한 도움이나 비서 역할을 넘어 하나의 핵심 주체로 자리잡고 있음을 의미한다.

마이크로소프트 365 코파일럿의 주요 신규 기능으로는 △AI 기반의 새로운 검색 경험을 제공하는 '코파일럿 서치(Copilot Search)' △누구나 손쉽게 디자인과 콘텐츠를 제작할 수 있는 '크리에이트(Create)' △데이터를 실시간으로 정리해 인사이트로 전환하는 '코파일럿 노트북(Copilot Notebooks)' △다양한 에이전트를 탐색하고 활용할 수 있는 '에이전트 스토어(Agent Store)' 등이 포함됐다.

딥 리즈닝(Deep Reasoning) 에이전트의 등장

특히 주목할 만한 것은 오픈AI의 심화 추론 모델을 기반으로 한 업무용 추론 기반 에이전트인 '리서처(Researcher)'와 '애널리스트(Analyst)'다.

Introducing Researcher and Analyst in Microsoft 365 Copilot | Microsoft 365 Blog
Microsoft is excited to introduce two, first-of-their-kind reasoning agents in Microsoft 365 Copilot: Researcher and Analyst. Learn more.

지난 3월 26일 서울양재 aT센터에서열린 마이크로소프트 AI 투어 인 서울(Microsoft AI Tour in Seoul)에서 마이크로소프트 365 코파일럿(Microsoft 365 Copilot) 에 추론(Reasoning) 모델을 적용한 두 가지 AI 에이전트가 전 세계 최초로 한국에서 공개됐다.

추론은 AI가 업무 데이터와 웹 정보 등 복잡한 데이터를 기반으로 추론하고, 다양한 맥락을 통합해 고도화된 문제 해결을 지원하는 기능이다.

리서처(Researcher)는 오픈AI의 o3 추론 연구 모델과 코파일럿의 조합 및 심층 검색 기능을 통합해 새로운 시장 전략, 분기 미팅을 위한 고객 조사 등의 복잡한 분석 작업을 수행할 수 있다. 애널리스트(Analyst)는 최신 추론 모델의 연쇄 추론 능력을 기반으로 분산된 다양한 데이터를 분석해 새로운 제품의 수요 예측, 소비자 구매 패턴 분석, 매출 데이터 트렌드 파악 등 비즈니스 핵심 인사이트를 도출한다.

이번에 공개된 AI 에이전트는 오는 4월부터 마이크로소프트 365 코파일럿 라이선스 고객 대상으로 ‘프런티어(Frontier)’ 프로그램을 통해 순차적으로 제공될 예정이다.

현재 북미 지역의 프런티어 프로그램 참여 기업을 중심으로 출시되었으며, 한국 기업들도 2025년 상반기 내에 사용할 수 있을 것으로 예상된다.

"리서치 에이전트는 고급 분석가처럼 전략적 인사이트를 분석하고 깊이 있는 추론을 제공해 빠르고 정확한 의사결정을 지원합니다. 웹뿐 아니라 업무 데이터까지 활용해 실시간으로 정보를 분석하는 것이 장점입니다."

김현지 매니저는 데모를 통해 리서치 에이전트의 활용 사례를 보여줬다. 생성형 AI 기반 업무 혁신 트렌드 정리와 마이크로소프트 365 코파일럿의 도입 전략, 주요 가치, 책임 있는 AI 관점까지 분석하는 보고서를 요청했을 때, 단 6분 만에 웹에서 공개된 연구 조사를 활용해 지난 2-3년간 기업들의 성과, 산업별 혁신 사례, 도입 전략까지 포함한 보고서를 작성했다.

"직접 웹에서 검색하고 자료를 정리하는 것보다 훨씬 빠르고 효율적입니다. 초안 작성 시간을 줄이고 더 나은 품질의 콘텐츠를 만드는 데 집중할 수 있습니다. 참고 자료의 출처도 확인할 수 있고, 추가 수정 작업도 하나의 워크플로 안에서 가능합니다."

애널리스트 에이전트는 복잡한 데이터를 빠르게 분석해 명확한 인사이트와 시각화를 제공한다. 마이크로소프트의 최신 추론 모델을 기반으로 고급 데이터 분석이 가능하며, 파이썬 코드를 사고 흐름에 자연스럽게 통합해 실시간 검증이 가능하다는 것이 강점이다.

"전기차 충전소의 제품별 매출 데이터를 분석해 달라고 요청했더니, 매출 집계 기간, 제품별 총 매출, 월별 트렌드, 주요 제품 매출 등을 표로 정리해 제공했습니다. 파이썬 기반 분석을 통해 미래 매출 예측까지 해주더군요. 필요한 경우 추가 질문을 통해 다양한 시각화와 인사이트를 계속 받아볼 수 있습니다."

기업들의 자체 에이전트 개발 사례

한국 기업들도 자체적으로 AI 에이전트를 개발해 활용하는 사례가 늘고 있다. GS건설은 코파일럿 기반의 AI 에이전트인 '자이톡'을 설계해 복리후생, 휴가 정책과 같은 인사 규정과 지침에 대한 질문에 24시간 응대할 수 있도록 준비 중이다.

KT는 마이크로소프트 365를 전사에 도입한 후 설치 파일, FAQ, 매뉴얼과 같은 자료를 사용자들에게 쉽게 제공하기 위한 'AX 필승 비법 에이전트'를 만들었다. 이 에이전트는 원드라이브 동기화 오류, 코파일럿 라이센스 유효성 검사 오류 등 실사용자들이 자주 묻는 질문에 답변한다.

"KT는 개발 경험이 없어도 모든 직원이 자신만의 업무용 에이전트를 만들고 업무에 적용시킬 수 있도록 하는 것을 지향하고 있습니다. 실제로 임직원이 300개 이상의 에이전트를 직접 만들어 사용 중이며, 에이전트를 활용해 지자체 사업까지 수주했다고 합니다."

김현지 매니저는 에이전트 개발이 생각보다 쉽다고 강조했다.

"기획만 끝나면 구축은 정말 간단합니다. 팀즈와 셰어포인트의 에이전트 빌더를 통해 손쉽게 업무 데이터와 연동된 에이전트를 만들 수 있고, 로코드(Low-code) 기반인 코파일럿 스튜디오를 통해 더 정교한 커스터마이징도 가능합니다. 개발 경험이 많지 않은 저도 몇 주 사이에 4-5개의 에이전트를 만들어 사용 중입니다."

AI 에이전트 관리와 보안

조직 내 AI 에이전트가 빠르게 늘어나면서 이들을 효과적으로 관리하고 보안을 강화하는 문제도 중요해지고 있다. 마이크로소프트는 이를 위해 '코파일럿 컨트롤 시스템(Copilot Control System)'을 제공하고 있다.

코파일럿 컨트롤 시스템은 단순한 관리 도구가 아니라 에이전트 사용 현황을 한눈에 파악하고 비즈니스에 미치는 영향까지 확인할 수 있게 해준다. 민감한 정보 보호와 권한 관리를 통합적으로 지원하는 거버넌스 플랫폼이다.

이 시스템은 '비바 인사이트'의 '코파일럿 스튜디오 에이전트 보고서'를 통해 조직 내 에이전트 활용 현황을 추적하고 KPI와 연결해 도입 효과를 평가할 수 있게 한다. '에이전트 유시지 보고서'는 조직 전체 차원의 에이전트 사용 데이터를 종합적으로 보여준다. '메시지 컨삼션 보고서'는 코파일럿 채팅 사용량을 실시간으로 모니터링해 리소스 최적화에 도움을 준다.

마이크로소프트 퍼뷰(Purview)와 연동하면 민감한 데이터에 대한 접근을 제어할 수 있으며, 마이크로소프트 365 어드민 센터에서는 사용자나 그룹 단위로 에이전트를 활성화하거나 차단할 수 있다. 또한 지원 에이전트의 티켓 생성 수나 세일즈 에이전트가 창출한 실질적인 기회와 같은 성과 연결 지표도 확인할 수 있어 AI에 대한 ROI를 명확하게 측정할 수 있다.

관련해 질문도 있었다. "에이전트의 ROI 측면에서 구체적인 수치가 있는지, 또 대고객 서비스에서 할루시네이션(hallucination) 같은 오류가 발생할 경우 어떻게 관리해야 하는지" 질문했을 때, 오성미 팀장은 다음과 같이 답했다.

"에이전트에 대한 명확한 ROI 수치는 아직 나오지 않았습니다. 2024년부터 파일럿 단계에서 본격적인 도입으로 넘어가고 있는 상황이라, 내년이나 올 하반기가 되어야 경제적 ROI에 대한 구체적인 조사 자료가 나올 것으로 예상됩니다. 다우케미컬 같은 경우 물류 담당 에이전트를 통해 수백만 달러를 절감했다는 정도만 알려져 있습니다."

"대고객 서비스에서 에이전트를 활용할 때 가장 중요한 것은 보안입니다. 유출되어서는 안 되는 정보가 유출되지 않게 액세스 권한을 명확히 설정하고, 에이전트가 어떤 데이터에 접근했는지 추적할 수 있어야 합니다. 책임 있는 AI 윤리와 부적절한 사용을 차단하는 메커니즘도 필요하고요. 현재 많은 기업들이 AI 훈련에 노력을 기울이고 있으며, 할루시네이션 문제를 해결하기 위한 기술 투자가 계속되고 있습니다."

AI 에이전트 스토어의 가능성

간담회 마지막 부분에서 "생성형 AI 에이전트 스토어는 애플 앱스토어나 구글 플레이처럼 전 세계인들이 에이전트를 만들어 거래할 수 있는 것인지, 아니면 기업 내부에서만 공유하는 것인지" 질문했다.

오성미 팀장은 "현재는 중간 형태입니다. 마이크로소프트가 내부에 에이전트를 넣은 것이 아니라, 서비스나우(ServiceNow)나 박스(Box) 같은 IT 기업들이 만든 에이전트를 마이크로소프트 서비스 사용 고객들이 에이전트 스토어를 통해 쉽게 통합할 수 있게 한 것입니다. 아직 그 자리에서 바로 결제해 구매하는 단계는 아니지만, 마이크로소프트 에이전트뿐 아니라 조직이 배포한 에이전트, 다양한 벤더들이 개발한 에이전트나 커넥터들도 스토어를 통해 활용할 수 있습니다."

기업의 AI 도입을 위한 실행 로드맵

마이크로소프트는 AI 시대에 유연하게 대응하기 위한 세 가지 실행 로드맵을 제시했다.

첫째, AI 에이전트를 디지털 직원으로 채용해 명확한 역할을 정의하고, 온보딩·책임 배분·성과 측정 등 실제 팀원처럼 관리할 것을 권고했다.

"2025년에는 AI 에이전트를 디지털 직원으로 채용해 보고 역량을 파악해 보세요. 어디까지 할 수 있는지, 필요한 정보와 데이터가 제대로 구현되어 있는지, 기대한 결과를 도출하는지 확인해야 합니다. 어떤 업무에 투입했을 때 사람과 에이전트가 협업해 더 나은 성과를 낼 수 있는지 검토하는 것이 중요합니다."

둘째, 고객 응대나 고위험 판단 등 인간의 개입이 필요한 영역과 자동화가 가능한 업무를 구분해, 인간과 AI의 협업 구조를 정립해야 한다.

"다른 기업의 사례를 그대로 가져올 수는 없습니다. 우리 비즈니스 프로세스, 팀 역량, 기술 역량, 데이터 역량을 종합적으로 고려해 에이전트를 활용하고 적절한 인간-에이전트 비율을 찾아야 합니다."

셋째, AI 도입을 기술 과제가 아닌 조직 혁신 과제로 보고, 시범 운영에 그치지 않고 전사적으로 빠르게 확산할 필요가 있다.

"AI를 통한 비즈니스 혁신은 단순한 기술 문제가 아닙니다. 지금은 기술 단위로 접근하는 것이 아니라 조직 전체 혁신을 위한 아젠다로 이 주제를 다루고 접근해야 합니다."

마이크로소프트의 '2025 업무동향지표'가 보여주는 가장 큰 시사점은 AI가 더 이상 선택이 아닌 필수가 되었다는 점이다. 프론티어 기업의 사례에서 볼 수 있듯이, AI 에이전트를 효과적으로 활용하는 조직은 생산성 향상과 혁신을 통해 경쟁우위를 확보하고 있다.

기업들은 이제 AI를 단순한 기술적 도구가 아닌 전략적 자산으로 인식하고, 조직 구조와 업무 프로세스를 재설계하는 데 활용해야 한다. 또한 직원들이 AI와 효과적으로 협업할 수 있는 역량을 갖출 수 있도록 지원하고, 에이전트 보스로서의 새로운 역할을 수행할 수 있게 준비시켜야 한다.

자레드 스파타로 부사장의 말처럼 "AI는 조직의 경영 전략은 물론, 우리가 인식하는 지식 노동의 개념을 바꾸고 있다." 이제 기업들은 인간과 AI가 조화롭게 협업하는 새로운 시대를 맞아, 프론티어 기업으로 도약하기 위한 준비를 서둘러야 할 때다.

오성미 팀장은 간담회를 마무리하며 "올해 리포트를 보면 계단식 변화가 아니라 굉장히 빠른 속도로 도약적인 변화가 있다"며 "AI 시대에 이미 선두 그룹으로 진화하고 있는 프론티어 기업들이 AI 기술을 어떻게 활용하고 있는지를 통해 우리가 지금 어떻게 준비해야 하는지 살펴봐야 한다"고 강조했다.

2025 업무동향지표 주요 용어 설명

  • 에이전트(Agent): 인간의 감독 아래, 업무 흐름을 스스로 계획하고 실행하는 AI 시스템
  • 에이전트 보스(Agent boss): 하나 이상의 에이전트를 관리하는 인간
  • 역량 격차(Capacity gap): 비즈니스 수요와 사람이 감당할 수 있는 최대 역량 사이의 격차
  • 디지털 노동력(Digital labor): 필요할 때마다 인력처럼 활용할 수 있는 AI 또는 에이전트
  • 프론티어 기업(Frontier Firm): AI와 인간, 에이전트 보스가 함께 일하는 새로운 형태의 조직
  • 인간-에이전트 비율(Human-agent ratio): 인간의 감독과 AI의 효율성 간 균형을 측정하는 지표
  • 지능 자원(Intelligence resources): 조직 내 디지털 노동력을 관리하는 전담 부서 (IT와 HR의 결합과 유사)
  • 워크 차트(Work Chart): 기존 조직도 대신, 실제 수행 업무 중심으로 설계한 조직 구조
  • AI 리터러시(AI literacy): AI를 이해하고, AI가 잘할 수 있는 일을 파악해 업무를 위임하며, 에이전트를 개발하고 관리하는 역량

2025 업무동향지표가 보여주는 가장 큰 시사점은 AI가 더 이상 선택이 아닌 필수가 되었다는 점이다. 프론티어 기업의 사례에서 볼 수 있듯이, AI 에이전트를 효과적으로 활용하는 조직은 생산성 향상과 혁신을 통해 경쟁우위를 확보하고 있다.

기업들은 이제 AI를 단순한 기술적 도구가 아닌 전략적 자산으로 인식하고, 조직 구조와 업무 프로세스를 재설계하는 데 활용해야 한다. 또한 직원들이 AI와 효과적으로 협업할 수 있는 역량을 갖출 수 있도록 지원하고, 에이전트 보스로서의 새로운 역할을 수행할 수 있게 준비시켜야 한다.

[테크수다 기자 도안구 eyeball@techsuda.com]

Newsletter
디지털 시대, 새로운 정보를 받아보세요!
세미나