[AI 리터러시] AI는 생각하는 걸까, 흉내내는 걸까

무료로 사용하던 클로드를 세 달 전 유료로 바꿨다. 더 많은 질문을 던지고 더 많은 답을 얻기 위해서였다. 어느 정도 사용하다 보면 시간이 지나야 다시 대화를 이어갈 수 있었고, 한 달 전에는 결국 더 높은 요금제인 맥스(Max)까지 선택했다. 그렇게 한 달째 맥스를 사용하고 있다. AI는 쉼 없이 어떤 요구에도 답을 내놓는다. 지치지도 않고, 싫다는 말도 하지 않는다.

다만 그 답이 “마음에 드느냐”라고 묻는다면 모두 그렇지는 않다. 그대로 사용할 수 없어 문장을 고치고, 요구사항을 다시 정리하고, 프롬프트를 바꿔 또 질문한다. AI에게 좋은 답을 얻으려면 결국 내가 질문을 잘해야 한다. 질문을 잘하려면 내가 무엇을 원하는지 알아야 하고, 어느 정도는 그 분야를 알고 있어야 한다. 그러다 보면 AI의 한계보다 오히려 내 지식과 생각의 한계가 답변의 한계로 이어지는 때도 있다.

ChatGPT와 음성대화를 해보면 AI가 생각한다는 착각이 더 강하게 든다. 거의 시차 없이 답하고, 사람처럼 추임새를 넣고, 잠시 생각하는 듯한 말투까지 들려준다. 그럴 때 AI가 정말 생각하는 것일까, 아니면 생각하는 것처럼 아주 능숙하게 흉내 내고 있는 것일까 하는 의문이 든다.

인간의 생각을 흉내 내고 있는데, 그 흉내가 AI를 사용할수록, 기술이 고도화될수록 점점 정교해지고 있다는 느낌이다. AI가 내놓는 답은 더 매끄러워지고, 내가 중요하게 생각하는 것이 무엇인지도 이전보다 잘 짚는다. 사람이 AI에게 느끼는 낯섦의 경계가 조금씩 흐려지는 이유도 여기에 있을 것이다.

"AI는 AI이다"

분명 어딘가에는 ‘AI는 AI이다’라는 한계가 있다. 다만 사람의 일반적인 시선으로는 그것을 쉽게 눈치채지 못할 뿐이다. AI가 만든 답을 읽다 보면 전체적으로는 매끄러워 보이지만 어느 순간 얇은 방지턱을 넘는 것처럼 ‘덜컥’하는 느낌이 든다. 문장이 그럴듯해 보여도 하나하나 보면 제대로 꿰어지지 않은 옷처럼 어색한 부분이 나타난다. AI를 사용할수록 오히려 이런 작은 틈이 눈에 들어온다.

AI는 학습한 데이터를 바탕으로 답을 만든다. 그리고 사람들이 중요하게 여기는 것, 더 좋은 답이라고 평가하는 방향도 학습하면서 답을 조정한다. 그렇다면 사람은 어떤가. 우리가 생각하고 말하는 과정도 과거의 경험과 지식, 사람들과 나눈 대화에 영향을 받는다. 다만 사람은 그 과정에 자신의 경험과 감정, 관계, 상황에 대한 판단을 함께 집어넣는다. 바로 이 지점에서 AI의 답과 사람의 생각 사이에 분명한 차이가 있다.

사람과 대화를 하다 보면 모르는 질문 앞에서 잠시 멈칫하기도 한다. 답을 하지 못하기도 하고, 솔직하게 모른다고 말하기도 한다. 내 경험을 돌아봐도 아는 척을 할 때가 있지만, 그 선택에도 상황에 대한 판단과 망설임이 들어간다. AI도 모른다고 답할 수 있지만, 질문을 받으면 기본적으로 그 질문에 어울리는 답을 능숙하게 만든다. 답을 알고 있어서 말한다기보다, 답을 만드는 능력이 뛰어난 것이 생성형 AI의 중요한 특징 가운데 하나다.

그래서 AI의 답이 매끄럽다는 이유만으로 그 답이 정확하거나 깊이 있다고 받아들여서는 안 되는 것이다. 맞는 말을 할 때도 자연스럽고, 틀린 말을 할 때도 자연스럽다. 문장이 매끄럽기 때문에 오히려 사용자가 의심하지 않고 지나칠 가능성도 있다. AI 시대에 필요한 리터러시는 바로 이런 지점에서 시작한다. 답을 받는 것보다 그 답을 어떻게 받아들이고 어디까지 믿을지를 판단하는 능력이 중요해진다.

여러 생성형 AI 서비스의 기술 격차도 점점 좁혀지고 있다. 기업들은 경쟁에서 밀리지 않기 위해 계속 새로운 모델과 기능을 내놓고 있고, 이용자 입장에서는 이전보다 훨씬 좋은 서비스를 사용할 기회가 많아졌다. 얼마 전까지만 해도 놀라웠던 기능이 금세 익숙한 기능이 되고, 몇 달 사이에 답변의 수준도 달라진다. 이런 발전은 분명 반가운 일이다. 그러나 AI가 더 빠르고 더 쉽게 답을 내놓을수록 내가 직접 생각하는 시간을 잃고 있지는 않은지 돌아볼 필요도 있다.

예전에는 어떤 질문이 생기면 자료를 찾고, 몇 개의 글을 읽고, 비교하면서 생각하는 시간이 필요했다. 지금은 질문을 입력하는 순간 몇 초 만에 정리된 답을 받을 수 있다. 구글 노트북(Gemini Notebook)을 쓰다 보면 그 편리함을 쉽게 느낄 수 있다. 그러나 그만큼 생각의 과정이 짧아진 것도 사실이다. AI가 생각을 대신해 주는 것처럼 느끼기 시작하면 스스로 고민해야 할 문제까지 AI에게 넘기기 쉽다. AI의 발전도 필요하지만, 그만큼 우리가 놓지 말아야 할 부분이 이 지점이다.

이 문제는 업무에서 AI를 사용하는 사람에게만 해당하지 않는다. 학교 현장에서 만나는 일부 학생들과 이야기를 나눠 보면 생성형 AI를 선생님이나 부모보다 자신의 이야기를 편하게 털어놓을 수 있는 상대처럼 받아들이는 경우도 있다. 가상의 아바타나 AI 캐릭터와 친구처럼 대화를 이어가며 일상의 일부를 채우기도 한다. 사람과의 대화보다 AI와의 대화가 편하고 길어질수록 혼자 생각하거나 다른 사람과 부딪치며 답을 찾아가는 시간은 줄어들 수 있다. AI가 나를 이해해 준다는 느낌과 실제로 나를 이해하는 것은 같은 것인지도 한 번 생각해 볼 문제다.

적당한 거리두기의 기술

그래서 필요한 것은 AI를 사용하지 않는 것이 아니라 나와 AI 사이의 적당한 거리를 만드는 일이라고 생각한다. 그렇다면 적당한 거리는 어떤 거리를 말하는 걸까. AI가 잘하는 일은 적극적으로 맡기되, 내가 생각해야 할 것까지 모두 넘겨주지는 않는 것이다. 빠르게 답을 얻는 것과 깊이 생각하는 것은 다른 일이다. AI가 더 정교해질수록 그 차이를 의식적으로 구분해야 한다. 그렇지 않으면 AI가 생각하는 것처럼 보이는 만큼 내가 생각하지 않아도 된다는 착각에 빠질 수 있다.

다시 처음의 질문으로 돌아가 본다. AI는 생각할까, 아니면 생각하는 것처럼 흉내 내는 것일까. 인간처럼 경험하고 느끼며 생각한다고 말할 수 있을까. 나는 아직 AI가 인간의 생각을 아주 정교하게 흉내 내고 있는 쪽에 가깝다고 본다. 다만 그 흉내가 갈수록 자연스러워지고 있기 때문에 사람은 점점 그 차이를 알아채기 어려워질 것이다. 앞으로는 어떤 영역에서는 인간과 AI의 차이를 체감하기 어려울 정도로 성능이 높아질 가능성도 있다.

새로운 버전이 등장할 때마다 여러 벤치마크와 비교 자료가 쏟아진다. 추론, 코딩, 수학, 지식 등 다양한 영역에서 이전 모델보다 높은 점수를 기록했다는 결과를 보다 보면 AI의 능력이 빠르게 향상되고 있음을 실감한다. 사람의 생각을 뛰어넘는 AI의 등장 자체보다 앞으로 더 중요한 질문은 AI가 정말 생각하느냐가 아닐지도 모른다. AI가 생각하는 것처럼 보이는 시대에 사람이 자신의 생각을 얼마나 지켜낼 수 있느냐가 더 중요한 질문일 수 있다. 답을 얻는 시간을 줄이는 대신 생각하는 시간까지 함께 줄이고 있는 것은 아닌지 돌아볼 필요가 있다.

AI는 생각할까, 인간의 생각을 흉내 내고 있는 걸까. AI가 점점 더 잘 생각하는 것처럼 보일수록 우리는 오히려 더 깊이 생각해야 하지 않을까. AI를 어떻게 쓰고 있는지 질문해 보자. 지금 우리는 AI에게 답만 맡기고 있는가, 아니면 생각까지 맡기고 있는가.