제1회 테크수다 포럼 좌담 — 정해준·유수호·김범수 대표가 진단한 중소기업 AI 전환의 병목과 출구

[테크수다 기자 도안구 eyeball@techsuda.com] 중소기업 직원들도 이미 생성형 AI를 쓴다. 문서는 빨리 나오고 보고서 형식도 그럴듯해졌다. 그런데 회사의 매출과 비용, 일하는 방식까지 실제로 달라졌느냐고 묻는 순간 이야기가 달라진다.

테크수다가 개최한 첫 번째 ‘테크수다 포럼’은 바로 이 간극이 궁금했기 때문이다.디지털 마케팅·커머스 컨설팅을 하는 정해준 소셜링커 대표, 개발자 출신으로 모두의연구소를 거쳐 AI 교육을 하는 유수호 위드에이아이 대표, SEO·GEO(생성형 엔진 최적화)를 다루는 김범수 라이브다임 대표가 2시간 동안 중소기업(SMB)의 AI 전환(AX) 현실을 진단했다.

세 사람이 공통으로 짚은 병목은 기술 그 자체가 아니었다. 업무 체계가 없고, 목표가 불분명하며, AI 활용에 대한 평가와 보상 구조가 없다는 것. 개인의 생산성이 조직의 성과로 넘어가지 못하는 이유다.

핵심 요약

• AI를 쓴다고 AX는 아니다 — 상당수 SMB는 개인이 AI를 쓰고 조직이 도구를 탐색하는 1~2단계에 머물러 있다. 결과물 검수 기준이 없어 사용 빈도만 늘고 활용의 깊이는 그대로다.
• 데이터보다 AI 참여 업무가 먼저 — 데이터를 다 쌓은 뒤 AX를 시작하면 첫 단계가 끝나지 않는다. AI 에이전트가 개입하는 프로세스를 먼저 만들면 그때부터 데이터가 쌓인다.
• 병목은 기술이 아니라 평가와 보상 — AI 학습과 데이터 정리는 성과로 인정받지 못하고, 잘 쓰는 직원에게 일만 몰린다. 패널은 TF팀보다 기본 교육, 챌린지, 보상으로 이어지는 방식을 제안했다.

“대부분 아직 1~2단계…AI를 쓴다고 AX는 아니다”

정해준 대표는 현재 SMB의 AI 도입 상황을 ‘혼란’이라고 진단했다.

AI를 해야 한다는 당위에는 대부분 동의하지만, 정작 무엇을 어디에 어떻게 적용할지를 모른다. 초기 프롬프트 교육에서 직급별 활용, 최근에는 AI 에이전트와 업무 자동화로 화두가 옮겨갔지만 조직의 현재 상태를 정의하지 않은 채 ‘AI를 쓰자’는 말부터 앞서고 있다는 것이다.

정 대표는 기업의 AI 전환을 7단계로 정리했다.

정 대표가 보는 상당수 중소기업의 현재 위치는 1~2단계다. 프롬프트로 문서를 만드는 속도는 빨라졌다. 하지만 조직에 결과물을 검수하는 기준이 없다면 AI가 만든 문서가 사실상 그대로 결재선을 탄다. 상급자 역시 잘 정돈된 형식을 보고 넘어가기 쉽다.

정 대표는 이를 “사용 빈도는 늘었지만 활용의 깊이는 깊어지지 않은 상태”라고 표현했다. 최근 만난 한 중소기업 대표도 직원들에게 AI를 적극적으로 쓰게 했지만 기대했던 생산성 향상 대신 성의 없어 보이는 문서가 늘어나면서 오히려 불만이 커졌다고 했다.

AI를 사용하는 것과 AI로 조직이 바뀌는 것은 전혀 다른 문제라는 얘기다.

5인 이하 기업은 AI 이전에 ‘업무 시스템’부터 없다

김범수 대표는 더 작은 기업으로 내려가면 상황이 달라진다고 말했다. 5인 이하, 10인 이하 기업 상당수는 이메일과 구글 드라이브 정도로 일한다. 업무 매뉴얼이나 프로세스 자체가 정립되지 않은 곳도 적지 않다.

“업무 로직 자체가 없는데 그 위에 AI를 붙이는 건 어렵다.”

김 대표는 이런 기업에서 AX는 상당히 먼 이야기처럼 느껴질 수 있다고 말했다. 문제는 개인 간 격차도 빠르게 벌어진다는 점이다. 2~3년 동안 생성형 AI를 계속 써온 사람들은 자신이 원하는 결과물을 얻는 방법을 스스로 찾아간다. 반면 스킬과 오케스트레이션, 에이전트를 활용한 자동화를 이야기하면 “그런 건 연구소나 전문가가 하는 것”이라고 선을 긋는 사람도 많다.

기업 현장에서는 AI가 오히려 ‘추가 업무’가 되기도 한다. 기존 업무는 그대로인데 AI를 배우고, 데이터를 정리하고, 새로운 프로세스를 시험해야 한다. 하지만 그 시간은 성과로 인정받지 못한다.

김 대표는 한 대기업 해외영업 담당자로부터도 “하던 일은 그대로인데 AI 때문에 새로운 일이 그만큼 더 생겼다”는 이야기를 들었다고 전했다. 전 직원에게 AI 계정을 나눠주는 것만으로는 AX가 되지 않는 이유다.

“데이터 다 쌓고 시작한다? 그러면 계속 못 한다”

유수호 대표는 개인 생산성과 기업 성과 사이의 간극을 가장 먼저 짚었다. 직원 개인은 생성형 AI로 생산성을 높이고 있다. 하지만 회사가 비용을 지원해 AI를 쓰게 하는 것과 기업의 성과를 만드는 것은 별개의 문제다.

특히 AI 도입 논의에서 빠지지 않는 전제가 있다.

“데이터가 있어야 한다.”

유 대표는 오히려 순서를 뒤집자고 제안했다.

대기업이라고 모든 데이터가 체계적으로 쌓여 있는 것은 아니다. 하물며 중소기업이 데이터를 모두 정비한 다음 AX를 시작하겠다고 하면 첫 단계부터 끝나지 않을 수 있다.

유 대표는 “사람 중심으로도 쌓지 못했던 데이터를 먼저 다 쌓은 다음 AX로 넘어가겠다고 하면 아마 계속 못 할 것”이라며 “오히려 AI 에이전트가 개입하는 프로세스를 먼저 만들면 그때부터 데이터가 쌓이기 시작한다”고 말했다.

데이터 → AI가 아니라, AI가 참여하는 업무 → 데이터 축적으로 순서를 뒤집자는 것이다.

정 대표도 비슷한 사례를 소개했다.

한 회사는 처음부터 “우리 업무용 AI 솔루션을 만들어달라”고 요청했다. 다른 회사는 “원래 하던 업무가 있는데 굳이 AI를 써야 하느냐”고 반문했다.

정 대표는 두 번째 회사의 업무 흐름부터 분석했다. 이후 에이전트와 스킬을 구성해 키워드만 입력하면 초기 결과물이 나오도록 만들었다. 디자인 관련 부서였던 이 회사는 사전 조사와 목업 디자인까지 걸리던 시간이 짧게는 2~3일, 긴 작업은 7일가량 줄었다고 평가했다.

흥미로운 것은 결과였다.

처음부터 AI 솔루션을 원했던 회사는 “쓸 수 있는 도구 하나가 늘었다”는 인식을 벗어나지 못했다. 반면 “굳이 AI가 필요한가”라고 묻던 회사는 실제 자신의 업무가 달라지는 것을 경험한 뒤 “이건 꼭 해야 한다”고 태도를 바꿨다.

정 대표는 “AI 성능이 너무 좋아져 이제는 업무를 던지면 된다”며 “문제는 사람들이 무엇을, 어떻게 던져야 하는지 모른다는 데 있다”고 말했다.

“그거 하면 팀장님만 좋은 것 아닌가요?”

좌담의 무게중심은 결국 사람과 조직으로 옮겨갔다.

유 대표는 AX가 위에서 시작되든 아래에서 시작되든 최고경영진과 HR이 성과와 보상을 연결하는 구조를 만들지 못하면 조직 차원의 전환은 어렵다고 봤다.

그가 한 회사에서 경험한 장면은 상징적이다.

팀장과 팀원, HR 담당자가 함께 AX 회의를 했다. 데이터를 정리해야 한다는 이야기가 나오자 팀장이 팀원들에게 업무를 나눴다.

그러자 한 직원이 물었다.

“그걸 하면 결국 팀장님만 좋은 것 아닌가요. 왜 제가 해야 하죠?”

회의가 끝난 뒤 HR은 팀장이 동기 부여를 못 했다고 했고, 팀장은 “저런 태도면 AI 시대에 적응하지 못한다”고 말했다. HR은 다시 “우리 회사는 AI 때문에 감원할 계획이 없다”고 맞섰다.

모두 AX가 필요하다고 말하지만, 변화에 필요한 일을 누가 하고 어떤 보상을 받을지는 정해져 있지 않은 현실이다.

정 대표는 그래서 AI를 잘 쓰는 직원들이 오히려 이를 숨기는 현상도 나타난다고 말했다.

회사 차원의 목표와 보상 없이 AI를 잘 쓰는 직원에게 업무만 더 몰리면, 실력을 드러낼 이유가 없다는 것이다.

김 대표도 비슷한 문제를 지적했다. 개인이 어렵게 축적한 프롬프트와 AI 활용 노하우를 아무 보상 없이 조직 전체에 공유하라고 요구하면 자신의 경쟁력을 넘겨주는 것으로 받아들일 수 있다.

AX의 병목이 결국 기술이 아니라 평가와 보상 시스템으로 이동하고 있는 셈이다.

모두가 ‘AI 팀장’ 되는 조직…토큰도 경영 자원이 된다

유 대표는 AI가 조직 구조 자체도 바꿀 수 있다고 전망했다.

과거에는 팀을 운영하려면 사람을 배정받아야 했다. 이제는 개인이 여러 AI 에이전트를 만들어 하나의 팀처럼 운영할 수 있다.

기획, 조사, 디자인, 개발을 담당하는 에이전트를 묶어 한 사람이 팀을 거느리는 형태다.

유 대표는 “예전에는 일을 잘해야 밑에 팀원이 붙었다면 앞으로는 AI 팀원을 붙여주는 것이 곧 토큰을 주는 것과 비슷해질 수 있다”고 말했다.

성과를 잘 내는 직원이나 팀에 더 많은 AI 사용 자원을 배정하는 조직이 나타날 수 있다는 설명이다.

이에 따라 AI 비용도 단순 IT 비용을 넘어 경영 과제로 부상하고 있다.

정 대표는 한 화장품 회사가 직원들의 AI 유료 구독에 매달 700만~800만 원을 지출하고 있다고 전했다.

직원 대부분이 AI를 기본 업무 도구로 사용하기 시작하면 회사가 비용을 부담할지 개인이 낼지, 어떤 업무에 어떤 모델을 쓸지, 모델별 가격과 성능을 누가 관리할지가 모두 경영 이슈가 된다.

김 대표가 맡았던 작가 추천 프로젝트는 비용 격차를 잘 보여준다. 작가 약 2만 명의 이미지를 분석하고 태깅하는 작업에 필요한 토큰은 약 12억 개. 사용하는 모델에 따라 비용은 수천만 원에서 수십만 원 수준까지 크게 달라질 수 있었다고 한다.

김 대표는 향후 멀티 클라우드를 관리하듯 기업이 여러 AI 모델과 토큰을 통합 관리하게 될 것으로 전망했다. 현금뿐 아니라 토큰을 어느 업무와 어느 팀에 얼마나 투입할지를 결정하는 시대가 올 수 있다는 얘기다.

마케팅부터 제조까지…AI는 ‘콘텐츠 생성’ 밖으로 나오고 있다

돈을 버는 부서에서는 변화가 이미 시작됐다.

정 대표는 AI 활용의 중심이 글·이미지·영상 같은 콘텐츠 제작에서 퍼포먼스 마케팅으로 빠르게 이동하고 있다고 봤다. 그는 MCP(Model Context Protocol)를 활용해 광고 기획부터 세팅, 집행, 성과 분석까지 AI로 연결하는 실험을 진행했다. 시장 조사와 기획, 소재 제작에 수 주 걸리던 업무를 크게 단축할 수 있었다는 설명이다.

이 변화는 기존 광고 대행 비즈니스에도 영향을 준다.

그동안 예산이 적은 SMB는 여러 소재를 만들고 A/B 테스트를 반복하기 어려워 전문 대행사에 의존했다. 그러나 기업 내부에 AI와 퍼포먼스 마케팅을 동시에 이해하는 사람이 있다면 상당 부분을 직접 운영할 수 있는 환경이 만들어지고 있다.

정 대표는 “어떤 스킬을 구성하고 기존 전략과 데이터를 AI에 어떻게 제공하느냐에 따라 결과가 완전히 달라진다”고 말했다.

제조 현장에서는 또 다른 형태의 AX가 진행되고 있다.

유 대표는 최근 제조업 교육 과정에서 설비에 센서가 없거나, 센서가 있어도 신호만 발생하고 데이터가 제대로 활용되지 않는 현장을 적지 않게 봤다고 했다.

머신러닝 기반 이상 탐지 시스템이 있어도 경보가 발생하면 현장 직원이 이를 무시하거나 담당자에게 제대로 전달되지 않는 사례도 있다.

여기에 LLM 기반 에이전트를 붙이면 상황이 달라질 수 있다.

기존 시스템이 이상 신호를 감지하면 AI가 “왜 경보가 발생했는지”, “어떤 문제가 예상되는지”, “무엇을 확인해야 하는지”를 작업자가 이해할 수 있는 언어로 전달하는 것이다.

다만 제조업에서는 소프트웨어보다 먼저 하드웨어 비용과 기존 설비의 디지털화 문제가 현실적인 장벽으로 남아 있다.

결국 업종마다 AX의 출발점은 다를 수밖에 없다.

TF팀보다 ‘기본 교육 → 챌린지 → 보상’

그렇다면 SMB는 무엇부터 해야 할까.

유 대표는 기업들이 주로 선택하는 방식으로 전사 AI 교육, 사내 해커톤·챌린지, 전담 TF팀을 꼽았다.

그는 소수 인력으로 구성된 TF가 AI 관련 의사결정과 예산을 독점하는 방식에는 신중해야 한다고 봤다. 전사 확산 과정에서 다른 부서와 마찰이 생길 가능성이 있기 때문이다.

대신 기본 교육을 실시한 뒤 실제 자신의 업무를 AI로 바꾸는 챌린지를 진행하고, 성과를 낸 직원과 팀에 명확한 보상을 제공하는 방식을 제안했다.

정 대표의 방법은 더 단순하다.

우선 직원들이 하는 업무를 목록으로 만든다. 빈도와 주기, 걸리는 시간을 적는다. 그 데이터를 AI에 넣어 자동화 가능한 업무와 우선순위를 찾는다.

그 다음 조직이 결정해야 한다.

AI가 만든 결과물을 어떤 기준으로 검수할 것인가. 어떤 데이터까지 넣을 것인가. 어디까지 AI가 하고 어디부터 사람이 책임질 것인가.

여기까지 가야 AI 사용이 ‘개인의 요령’에서 ‘회사의 운영 체계’로 넘어간다.

테크수다의 시각

AX는 도구 구매가 아니라 ‘운영 설계’다

두 시간 동안 수많은 AI 모델과 에이전트, 자동화 기술이 언급됐다. 하지만 세 패널의 이야기가 도달한 곳은 특정 제품이 아니었다.

목표, 기준, 보상.

회사가 AI로 무엇을 이루려는지 설명하지 않으면 직원은 AI를 자신의 개인 생산성 도구로만 쓴다. 결과물을 판단할 기준이 없으면 형식만 그럴듯한 문서가 조직을 돌아다닌다. AI를 활용해 업무 방식을 개선한 사람에게 보상이 없다면 잘하는 직원부터 노하우를 숨긴다.

가장 흥미로운 대목은 AX의 순서를 뒤집자는 제안이다.

기존 방식은 데이터를 정리하고 시스템을 만든 뒤 그 위에 AI를 도입하는 것이다. 하지만 업무 매뉴얼조차 없는 작은 기업이라면 첫 단계가 영원히 끝나지 않을 수 있다. 그렇다면 처음부터 AI가 참여하는 업무 프로세스를 만들고, 사람이 AI와 일하는 과정에서 데이터와 매뉴얼을 쌓는 방법도 가능하다.

업무 시스템이 없다는 SMB의 약점이 역설적으로 낡은 시스템에 얽매이지 않고 AI 네이티브 프로세스를 처음부터 설계할 기회가 될 수도 있다. SMB에 지금 필요한 것은 거창한 ‘AI 전환 선언’이 아닐지 모른다.

업무 하나를 고르고, 무엇을 개선할지 목표를 정하고, 결과물을 판단할 기준을 만들고, 그 변화를 만들어낸 사람에게 제대로 보상하는 것.

“우리 회사도 AX 중입니다”라는 말이 진짜인지 아닌지는 최신 AI 계정을 몇 개 가지고 있느냐가 아니라, 결국 이 작은 운영 설계가 존재하느냐에서 갈릴 것이다.

SMB의 AI, 이런 점이 궁금하셨나요?

Q1. 직원들이 AI를 쓰는데 왜 회사 성과는 그대로인가?
상당수 SMB가 개인이 AI를 쓰고 조직이 도구를 탐색하는 1~2단계에 머물러 있기 때문이다. 반복 업무 자동화, 에이전트 위임, 프로세스 재설계로 넘어가지 못했고, 결과물을 검수할 기준이 없어 문서의 양만 늘었다.

Q2. 데이터가 없는 중소기업은 AI 도입을 미뤄야 하나?
패널의 답은 반대다. 데이터를 모두 정비한 뒤 시작하겠다는 순서는 첫 단계부터 끝나지 않을 수 있다. AI 에이전트가 개입하는 업무 프로세스를 먼저 만들면 그 과정에서 데이터와 매뉴얼이 쌓인다.

Q3. 직원들이 AI 노하우를 공유하지 않는 이유는 무엇인가?
공유해도 평가와 보상이 따르지 않기 때문이다. AI 학습과 데이터 정리는 추가 업무인데 성과로 인정받지 못하고, 잘 쓰는 직원에게는 일만 더 몰린다. 패널은 경영진과 HR이 성과와 보상을 연결하는 구조를 먼저 만들어야 한다고 강조했다.

Q4. AI 전담 TF팀을 꾸리는 것이 좋은 방법인가?
유수호 대표는 소수 인력의 TF가 의사결정과 예산을 독점하면 전사 확산 과정에서 마찰이 생길 수 있다며 신중해야 한다고 봤다. 대신 기본 교육 뒤 자기 업무를 AI로 바꾸는 챌린지를 열고, 성과를 낸 직원과 팀에 보상하는 방식을 제안했다.

Q5. SMB가 당장 시작할 수 있는 첫걸음은 무엇인가?
정해준 대표는 직원들이 하는 업무를 목록으로 만들고 빈도, 주기, 소요 시간을 적은 뒤 AI에 넣어 자동화 우선순위를 찾으라고 권했다. 이어 결과물 검수 기준, AI에 넣을 데이터의 범위, 사람이 책임질 영역을 조직이 정해야 한다.

[테크수다 기자 도안구 eyeball@techsuda.com]