AI 모델 개발이 '연금술'에서 '과학'으로 변하는 분기점이 도래하고 있다. 미국 샌프란시스코 스타트업 Goodfire가 대규모언어모델(LLM)의 내부 구조를 분석하고 조정할 수 있는 도구 '실리코(Silico)'를 공개하면서, 종래의 블랙박스식 AI 개발 방식에 대한 도전이 본격화됐다.

실리코는 기계적 해석가능성(Mechanistic Interpretability)이라는 기법을 활용한다. 이는 AI 모델 내부의 뉴런과 신경 경로를 시각화하고, 개발자가 학습 과정 중에 파라미터를 직접 조정할 수 있게 한다. 기존의 시행착오 중심의 AI 개발과 달리, 이제는 "모델의 노브와 다이얼을 노출함"으로써 전통적 소프트웨어 엔지니어링과 유사한 수준의 제어가 가능해지는 것이다.

AI 개발 방식의 근본적 전환

종래 LLM 개발은 엄청난 규모의 데이터와 컴퓨팅 자원으로 훈련한 후, 그 결과를 대략적으로만 이해하는 방식이었다. 개발자들도 모델이 왜 특정 답변을 내놓는지 명확히 설명하기 어려웠다. 이를 "alchemy(연금술)"이라 부르는 이유다.

실리코 같은 도구가 등장하면서 개발자는 원하지 않는 행동을 줄이거나, 특정 출력 방향을 조종할 수 있게 된다. 미국의 한 AI 전문가는 "이는 AI 모델 개발을 진정한 과학의 영역으로 옮기는 변화"라고 평가했다. 한국의 AI 연구팀들도 이런 도구를 통해 자체 LLM 최적화의 비용과 시간을 단축할 수 있을 가능성을 주목하고 있다.

모델 제어 가능성의 확대

실리코의 등장은 AI 안전성 논의에도 영향을 미칠 것으로 보인다. 기존에는 부작용이나 편향성을 수정하려면 다시 처음부터 훈련해야 했다면, 이제는 특정 신경 경로를 타게팅하여 효율적으로 조정할 수 있다. 이는 결국 더 통제 가능하고 설명 가능한 AI를 만드는 데 기여할 수 있다.

Goodfire는 이 도구로 "AI 개발이 덜 신비한 작업"이 되기를 희망한다고 밝혔다. 개발자의 기술력에 따른 편차도 줄어들 것으로 기대되며, 중소 규모의 연구팀도 고급 LLM 최적화에 접근할 수 있는 길이 열린다.

글로벌 AI 경쟁 구도에서의 의미

흥미롭게도 이런 도구의 등장은 중국의 '오픈 소스 전략'과 겹친다. 지난해 DeepSeek이 R1 모델을 오픈소스화하면서 개발자들 사이에서 '선의(goodwill)'를 얻었듯이, Goodfire의 접근 방식도 개발자 커뮤니티에 더 큰 통제력을 돌려준다는 점에서 유사하다.

미국 AI 기업들은 API 뒤에 모델을 감싸고 접근료를 매기는 방식을 고집해 왔다. 그러나 디버깅 도구와 오픈소스 모델의 확산은 AI 산업을 더욱 탈중앙화시키는 추세를 가속할 것으로 예상된다. 한국 기업들이 자체 LLM 개발에 나서는 지금, 실리코 같은 도구의 도입은 경쟁력 있는 모델 구축의 지름길이 될 수 있다.

미해결된 과제들

다만 기계적 해석가능성 기술도 아직 걸음마 단계다. 모든 모델에 동등하게 적용되지 않을 수 있으며, 해석 과정에서 놓치는 부분이 있을 가능성도 있다. 또한 누가 이 "노브와 다이얼"을 조작할 권한을 가질 것인가라는 규제 문제도 남아 있다.

Goodfire의 실리코는 단순한 개발 도구를 넘어, AI 개발 문화를 '블랙박스에서 투명성으로' 옮기는 상징적 사건이 될 가능성이 높다.