금융기관들이 그동안 구축해온 부정거래 적발 모델, 신용평가 시스템, 추천 엔진 등 각각의 목적에 맞춘 수십 개의 인공지능(AI) 모델들을 하나의 통합 시스템으로 전환하고 있다. 최근 NVIDIA가 공개한 금융 AI 생태계 분석 보고서를 보면 금융기관의 65%가 이미 AI를 도입 중이며, 90% 가까이가 배포하거나 검토 중인 상태다.

하지만 AI 규모가 커질수록 문제도 커진다. 각 부서별로 구축된 독립적인 모델들이 서로 데이터를 공유하지 못하면서 전체 고객 행동을 이해하는 데 한계를 드러내고 있다. 금융기관이 보유한 거대한 데이터와 그 데이터를 활용할 수 있는 AI 역량 사이에 큰 간격이 벌어지고 있다는 뜻이다.

이 문제를 해결하기 위해 선도 금융사들은 아키텍처 자체를 재설계하고 있다. 종전의 통계 알고리즘과 기계학습 방식에서 벗어나 트랜스포머 기반의 '거래 파운데이션 모델(Transaction Foundation Model)'로 전환하는 것이다. 이 모델은 결제, 송금, 상품 상호작용, 행동 신호 등 수십억 건의 금융 거래 데이터로 학습해 고객 행동의 통합된 표현을 만들어낸다.

기존의 부정거래 모델은 고립된 신호들만 평가했다. 반면 새로운 파운데이션 모델은 거래의 시각, 기기, 위치, 과거 거래 이력 등 컨텍스트 전체를 고려해 의미를 파악한다. 자정에 이루어진 결제가 10분 내 4번째 거래이면서 평소 사용하지 않던 기기에서, 방문한 적 없는 도시에서 일어났다면—이 모든 정황이 한데 어울려 위험도를 훨씬 정확히 판단할 수 있다는 의미다.

구체적 사례들이 이미 성과를 내고 있다

결제 스타트업 Revolut은 NVIDIA와 협력해 'PRAGMA'라는 트랜스포머 기반 파운데이션 모델 군을 개발했다. 24억 건의 거래 이벤트와 2,600만 명의 사용자 기록으로 학습한 이 모델은 신용평가, 부정거래 탐지, 상품 추천 등 여러 도메인에서 기존의 특화 모델들을 능가하는 성능을 보였다. Revolut의 크레딧 데이터 과학 팀장 Tadas Kriščiūnas는 "특성 공학에 걸리던 수주 또는 수개월을 완전히 없앨 수 있게 됐다"고 밝혔다.

국제 결제 네트워크 Mastercard도 비슷한 길을 가고 있다. 수십억 건의 익명화된 거래로 학습하고, 향후 수백억 건 규모로 확장할 수 있도록 설계된 대형 테이블형 파운데이션 모델을 개발 중이다. 이 모델은 부정거래, 승인, 차지백, 판매처 위치, 로열티 데이터까지 통합해 학습해 기존의 수십 개 모델을 하나로 대체할 수 있도록 한다. 초기 테스트 결과 기존 기계학습 기법보다 우수한 성능을 보였으며, 사이버보안, 부정거래 탐지, 개인화, 포트폴리오 최적화 등 광범위한 용도에 적용 가능한 것으로 평가된다.

결제 게이트웨이 Adyen은 이미 1조 달러(약 143조원) 규모의 거래를 처리하는 파운데이션 모델을 배포했다. 강화학습을 활용해 판매자의 승인율을 높이면서 위험을 최소화하는데, 0.1% 같은 소수점 단위의 개선도 거래액으로 환산하면 수조원대 매출 증대와 비용 절감으로 이어진다고 설명했다.

'자산이자 경쟁력'인 거래 데이터

이런 전환은 거래 기반 AI의 다음 단계인 에이전트 AI로의 진화와도 맞닿아 있다. 금융기관의 42%가 이미 에이전트 AI를 사용하거나 평가 중인 상황에서 이들 시스템이 실제 거래를 자동으로 실행하게 되면(구독 관리, 송금, 구매 등), 금융 행동 자체의 특성이 달라진다.

결제 플랫폼 Stripe는 작년 한 해 1,120억 달러(약 160조원)의 부정거래를 탐지했으며, 평균 38% 수준의 부정 적발률 개선을 달성했다. 이는 거래 맥락 전체를 이해하는 파운데이션 모델 덕분이다.

금융기관이 보유한 거래 데이터는 경쟁사가 절대 복제할 수 없는 자산이자 경쟁력이다. 데이터는 이미 존재하고, 기술 아키텍처는 검증됐으며, 인프라도 준비되어 있다. NVIDIA는 'Build Your Own Transaction Foundation Model'이라는 개발자 예제를 공개해 어떤 금융기관도 기존 파이프라인에 통합할 수 있도록 했다.

AWS와 Nebius AI Cloud 같은 클라우드 파트너, 그리고 컨설팅사 EXL, Infosys, GFT IT Consulting, Thoughtworks 같은 서비스 파트너들도 금융사의 파운데이션 모델 도입을 지원하고 있다. 이는 금융 AI가 이제 대형사의 전유물이 아니라 누구든 자신의 거래 데이터로 구축할 수 있는 시대로 접어들었음을 의미한다.