[테크수다 이길환 금융AI전문기자(객원) happytalkman@weai.kr] 금융정보분석원(FIU)의 자금세탁방지(AML) 시스템이 전환점을 맞고 있다. 기존엔 '1천만원 이상 현금거래' 같은 단순 규칙(Rule-based)에 의존했지만, 이제는 인공지능이 스스로 패턴을 학습하고 그 판단 근거까지 제시하는 '설명가능한 AI(XAI)' 체계로 진화 중이다. 업계 일각에서는 단순 AI 도입을 넘어, 비전-언어-행동(VLA) 모델과 온톨로지(Ontology) 기반 지식체계를 FIU 분석 업무에 접목하려는 시도가 이뤄지고 있다. 이는 단순한 성능 개선이 아닌, '블랙박스 AI'로는 EU AI법 등 글로벌 규제를 통과할 수 없다는 위기감에서 비롯됐다.

◆ FIU, 이미 'AI 전쟁' 중이었다

금융정보분석원은 이미 수년 전부터 머신러닝(ML) 도입에 나섰다. '차세대 FIU 자금세탁방지시스템' 구축 사업을 통해 방대한 금융거래 데이터를 분석·학습해 자금세탁 혐의도가 높은 의심거래보고(STR)를 탐지하는 기술을 접목했다.

그 효과는 구체적인 수치로 드러났다. 다중처리방식 도입으로 1일 평균 STR 처리 용량이 5천건 이상으로 5배 늘었고, 보안전용망을 통한 보고 비율은 85%까지 확대됐다. 단순히 '더 많이, 더 빠르게' 처리하는 수준을 넘어선 것이다.

그러나 필자가 주목하는 지점은 다르다. 과거 AML 시스템이 고액현금거래보고(CTR) 기준금액을 2천만원에서 1천만원으로 낮춰 '촘촘한 감시'를 추구했다면, 지금 필요한 것은 '똑똑한 감시'다. 기존 규칙 기반 시스템은 오탐지(False Positive)가 많아 금융사 실무자들의 피로도를 가중시켜 왔다. 진짜 범죄수익을 쫓기보다, 보고 의무를 채우기 위한 '방어적 보고'가 양산되는 구조적 한계였다.

◆ 설명 못하는 AI, 규제의 문턱을 넘지 못한다

그러나 AI 도입만으로 해결되지 않는 더 높은 벽이 있다. 바로 '설명 책임'이다.

학계 연구에 따르면, AI 모델이 도출한 결과에 대한 설명가능성은 금융 부문에서 최종 의사결정자가 인간이라는 점에서 매우 중요한 요소로 강조된다. SHAP, LIME, PDP 같은 XAI 기법들은 복잡한 AI 모델의 의사결정 과정을 인간이 이해할 수 있는 형태로 변환해, 신용평가, 사기 탐지, 투자 거래 등 금융 실무에 적용되고 있다.

더 근본적인 변화는 규제 환경이다. 유럽연합(EU)의 AI 법(AI Act)은 고위험 AI 시스템에 대해 투명성과 설명 가능성을 사실상 강제한다. AI 시스템이 잘못된 결정을 내렸을 때 시민이 불만을 제기하고 보상받을 수 있는 절차도 법제화됐다.

필자의 시각으로, 이는 FIU 업무에 직접적인 함의를 던진다. 수상한 거래를 '적발'하는 것을 넘어, 왜 그 거래가 수상한지 법정에서 설명할 수 있어야 한다는 의미다. 'AI가 그렇게 판단했습니다'라는 답변은 더 이상 통하지 않는다. FIU나 금융회사가 AI 판단의 근거를 추적·설명하지 못한다면, 그 시스템은 규제 준수 도구가 아니라 새로운 법적 리스크로 전락한다.

◆ 온톨로지와 VLA, 금융 분석의 '지식 혁명'

이 지점에서 주목받는 기술이 온톨로지(Ontology)와 VLA(비전-언어-행동) 모델이다.

온톨로지는 특정 도메인의 지식을 컴퓨터가 이해할 수 있도록 개념, 인스턴스, 속성, 관계로 구조화한 데이터 모델이다. 예컨대 '이병헌'이라는 인스턴스는 '영화배우'라는 클래스에 속하고, '배우자'라는 관계로 '이민정'과 연결된다. 이 구조 덕분에 AI는 단순한 키워드 매칭이 아닌, 맥락과 관계를 바탕으로 추론할 수 있다.

팔란티어(Palantir)는 이러한 온톨로지를 통해 현장의 주요 의사결정과 데이터 흐름을 디지털 트윈으로 구현한다. 객체, 사건, 관계 중심으로 세계를 구조화된 기록으로 표현하고, AI는 의사결정의 보조자로서 '누가 어떤 결정을 내렸는지'를 추적 가능하게 만드는 AI 운영 체제에 가깝다.

한편, 엔비디아, 구글, 테슬라 등이 경쟁 중인 VLA 모델은 로보틱스와 자율주행에 국한된 기술이 아니다. 엔비디아는 물리적 현실을 정확히 디지털 세계에 표현하고, 선택·전략·정책을 분리해 책임과 설명을 투명하게 하는 철학을 갖고 있다. 이 '투명성 추구'는 XAI가 필수적인 금융 규제 영역과 본질적으로 닿아 있다.

◆ 금융 특화 VLA, 가능성인가 과장인가

그렇다면 VLA 모델이 FIU 업무에 어떻게 적용될 수 있을까.

필자의 진단은 이렇다. 자금세탁은 단일 거래만으로 적발되지 않는다. 수많은 거래 데이터, 법인 등기 정보, 미디어 기사, 심지어 해외 금융기관이 보낸 정보 전문(Message)까지 비정형·정형 데이터가 뒤섞인다. 텍스트로 된 거래 내역(언어), 범죄 조직도의 관계(비전, 관계도), 그리고 실제 자금 이동(행동)을 하나의 모델로 통합 분석할 수 있다면, 기존 STR 분석 시간을 획기적으로 단축할 수 있다.

예컨대, 가상자산사업자(VASP)에 대한 FATF의 '소유자/운영자 테스트'를 AI가 수행한다고 가정해보자. 탈중앙화 금융(DeFi) 프로젝트의 지갑 주소, 거버넌스 투표 이력, 개발자 커뮤니티 활동 등을 온톨로지로 연결하고, VLA 모델이 '이 프로젝트는 실질적 운영 주체가 존재하므로 FATF 기준 VASP에 해당한다'는 결론과 그 근거(특정 지갑의 거버넌스 토큰 보유량, 핵심 개발자의 다중 서명 권한 등)를 함께 제시할 수 있다면, 규제 공백을 메우는 강력한 도구가 될 수 있다.

◆ GPU 인프라 격차, 한국 스타트업의 현실

그러나 냉정한 현실이 있다. 엔비디아가 코스모스 월드 파운데이션 모델을 학습시키기 위해 투입한 자원은 2천만 시간의 영상 데이터와 9천조 개의 토큰이었다.

국내 스타트업이 이 규모의 인프라를 단독으로 확보하는 것은 사실상 불가능에 가깝다. 그럼에도 필자가 이 흐름을 주목하는 이유는, 금융 분야 VLA는 '물리적 현실의 완벽한 복제'보다 '규제 준수의 논리적 추론'에 방점이 찍혀 있기 때문이다. 제조 현장의 디지털 트윈보다 금융위험 평가지표와 법규 위반 사례를 연결하는 지식 그래프 구축이 더 시급하고, 이는 GPU 숫자만으로 승부가 결정되지 않는 영역이다.

◆ 인내와 생태계의 문제

이는 앞서 다룬 코스닥 퇴출 논의와도 연결된다. 단기 실적 압박에 시달리는 국내 증시에서, 금융 특화 VLA 모델을 개발하는 스타트업이 10년 이상 R&D에 매진할 수 있을까.

필자가 염려하는 것은, 'FIU 혁신'이라는 거대 담론 아래 또다시 단기 상장과 엑시트에 내몰리는 기술 스타트업의 그림자다. 글로벌 빅테크와의 GPU 격차를 인정하고, 정교한 온톨로지 설계와 도메인 지식이라는 '느린 기술'에 인내심을 가질 수 있는 민간 대기업과 자본 시장의 협력이 절실한 시점이다.

FIU 시스템의 AI 전환은 이미 거스를 수 없는 흐름이다. 문제는 속도만이 아니라 방향이다. 당장의 '퇴출' 담론에 함몰되지 않고, 금융 규제라는 특수한 환경에서 '설명할 수 있는' AI 기술을 키워낼 온실을 어떻게 만들 것인지, 정책 당국과 금융권의 고민이 깊어지고 있다.

[테크수다 이길환 금융AI전문기자(객원) happytalkman@weai.kr ]