AI 연구자 리차드 소처가 자동으로 자신의 약점을 진단하고 스스로 개선하는 AI 시스템 구축을 목표로 하는 신종 스타트업 'Recursive Superintelligence(재귀 지능)'를 설립했다. 지난 12일(현지시간) 샌프란시스코에서 공식 출범한 이 회사는 초기 투자 라운드에서 6억5천만달러(약 9,295억원)를 확보했다.

소처는 초기 챗봇 스타트업 You.com 창업자로 알려졌으며, 그 전에는 이미지넷(ImageNet) 연구로 명성을 쌓았다. 이번 스타트업에는 피터 노빅(Peter Norvig), Cresta 공동 창업자 팀 시(Tim Shi), Google DeepMind의 팀 록타셀(Tim Rocktäschel) 등 저명한 AI 연구자들이 참여했다.

재귀 자가개선의 기술적 의미

Recursive Superintelligence의 핵심은 '재귀적 자가개선(RSI, Recursive Self-Improvement)'이다. 소처는 TechCrunch와의 인터뷰에서 "우리의 고유한 접근은 오픈-엔디드니스(open-endedness)를 활용해 재귀적 자가개선을 구현하는 것"이라며 "이는 아무도 아직 달성하지 못한 목표"라고 설명했다.

일반적인 AI 자동 연구(auto-research)와의 차이를 강조한 소처는 "단순히 AI가 다른 시스템을 개선하도록 하는 것은 그냥 '개선'일 뿐 진정한 재귀 자가개선이 아니다"라고 지적했다. 그는 "이상화·구현·검증의 전체 연구 프로세스가 자동화되어야 하며, 처음엔 AI 연구 아이디어 생성부터, 결국 물리 영역까지 확장되어야 한다"고 덧붙였다.

오픈-엔디드니스와 생물학적 진화의 유사성

'오픈-엔디드니스'는 생물학적 진화를 모방한 개념이다. 소처가 언급한 Google DeepMind의 'Genie 3' 같은 세계 모델은 어떤 개념이든 인터랙티브하게 생성할 수 있다. 소처는 "생물 진화에서 동물이 환경에 적응하고 다른 종이 그 적응에 대응-적응하는 식으로 수십억 년 동안 흥미로운 진화가 일어났다. 우리의 눈이 이런 식으로 발달했다"고 설명했다.

팀 록타셀이 제안한 '무지개 팀 테스트(rainbow teaming)'도 이 개념과 관련이 깊다. 기존 사이버 보안의 '레드팀(red teaming)' 방식과 달리, 무지개 팀 테스트는 두 AI가 수백만 번의 반복을 통해 대항-진화한다. 한 AI는 다른 AI의 약점을 여러 각도에서 공격하고, 첫 번째 AI는 그에 맞춰 방어를 강화하는 식으로 양쪽이 동시에 개선된다. 소처는 "이 아이디어는 이제 주요 AI 랩 전체에서 채택되고 있다"고 밝혔다.

언제 완성인가? — 끝이 없는 진화

언제 이 목표를 달성할 것인지 묻는 질문에 소처는 "완성이 된다는 개념이 없다"고 대답했다. "지능에는 이론적 한계가 있지만, 그 한계는 천문학적이다. 우리는 그 한계에서 아주 멀리 떨어져 있다"고 설명했다.

메이저 랩들과 다른 접근

소처는 Recursive Superintelligence를 '네오랩(neolab)'으로 분류하지 않으려고 했다. 네오랩은 최근 등장한 AI 스타트업 중 연구에 중심을 두고 제품 개발을 후순위로 하는 회사들을 지칭한다. 소처는 "나는 우리가 단지 랩이 아니라 정말 생존 가능한 기업이 되고 싶다"며 "사람들이 사랑할 수 있는 멋진 제품을 만들고, 인류에 긍정적 영향을 미치고 싶다"고 언급했다.

제품 출시 시점에 대해서는 "팀이 엄청난 진전을 이뤘다. 원래 계획보다 일정을 앞당길 수도 있다"고 했다. 그는 "제품이 나올 것이고, 년 단위가 아니라 분기 단위로 기다리면 된다"고 명시했다.

지능 경쟁의 최종 형태: 연산능력 뿐

한 가지 흥미로운 질문이 나왔다. 재귀 자가개선 시스템이 완성되면 "계산 능력(compute)이 유일한 경쟁 요소가 되지 않을까"라는 점이었다. 즉, 시스템을 빠르게 실행할수록 더 빠르게 개선되고, 인간의 개입이 무의미해지는 시대다.

소처는 동의하면서도 더 넓은 관점을 제시했다. "계산 능력을 과소평가할 수 없다"면서도 "미래의 정말 중요한 질문은 '인류가 어떤 문제를 해결하기 위해 얼마나 많은 계산 능력을 쓸 것인가'가 될 것"이라고 했다. 그는 "암과 바이러스 중 어느 것을 먼저 풀 것인가, 얼마나 많은 계산 자원을 할당할 것인가 같은 문제가 결국 자원 배분의 문제가 될 것"이라고 덧붙였다.

이번 펀딩에는 Greycroft, GV(Google Ventures) 등이 참여했으며, 팀에는 OpenAI 초기 멤버이자 Codex와 Deep Research 팀을 이끌었던 조시 토빈(Josh Tobin)도 포함되어 있다.