엔비디아가 에이전트 인공지능(AI) 작업에 최적화된 자체 CPU 'Vera'의 성능을 11월 5일 공식 입증했다. 동일한 전력 조건에서 기존 x86 CPU 대비 에이전트 처리 속도는 가장 빠른 제품 수준이면서도 전력당 에이전트 용량은 1.6배 높다는 내용이다.

에이전트 AI는 단순히 답변을 생성하는 수준을 넘어선다. 정보 검색, 데이터베이스 쿼리, 코드 작성·테스트, 실제 작업 실행 등 다단계 과정을 거친다. 각 단계마다 CPU에서 처리되며, GPU 추론과 CPU 실행 사이를 오가면서 진행된다. AI 팩토리 규모가 커질수록 많은 에이전트를 동시에 빠르게 처리하면서도 전력 소비는 최소화해야 한다는 과제가 생겼다.

단일 칩의 이중 목표 달성

엔비디아 블로그에 따르면, 100메가와트급 데이터센터 환경에서의 비교 시험 결과, Vera CPU는 가장 빠른 x86 CPU와 가장 효율 높은 x86 CPU 모두를 상회했다. 속도와 용량 두 가지를 한 칩에서 달성한 셈이다. 기존에는 속도를 택하려면 전력 효율을 포기하거나, 효율을 우선하려면 처리 속도를 희생하는 트레이드오프가 불가피했다.

구체적으로 Vera는 가장 빠른 x86 CPU 대비 전력당 에이전트 용량에서 1.6배 우수하며, 가장 효율 높은 x86 CPU 대비 에이전트 처리 속도에서 2배 빠르다.

얼리 어댑터 검증 본격화

얼리 어댑터들은 이미 프로덕션 환경에서 Vera의 성능을 확인했다. 검색 플랫폼 Perplexity는 에이전트식 코딩 작업을 Vera에서 실행했을 때 기존 CPU 대비 1.5배 빠르다고 보고했고, 향후 프로덕션 시스템에 Vera를 배포할 계획이다.

DeepInfra는 에이전트 오케스트레이션 작업에서 최고 성능 x86 프로세서 대비 2.2배 처리 속도를 달성했으며, 테스트한 4개 아키텍처 중 최상위 성과를 기록했다.

ClickHouse는 Vera 최적화 없이 표준 바이너리만으로도 176개 코어를 통해 선형에 가까운 확장성을 보였고, ClickBench 하드웨어 리더보드 1위를 차지했다. DuckLabs는 TPC-H 벤치마크 테스트에서 Intel Xeon 6 기준 대비 약 1.5배 성능을 기록했다.

개발자 샌드박스 프로비저닝 플랫폼 Daytona의 성과는 특히 주목할 만하다. 1,000개 에이전트 샌드박스를 10.8초에 온라인화했으며, 2,000개 동시 샌드박스 환경에서는 초당 12.7개 작업을 완료했다. 이는 x86에서 88.4초가 걸리던 작업이다. Modal은 코어당 샌드박스 처리량에서 x86 하드웨어 대비 최대 2배를 달성했으며, 고부하 상황에서 이득이 더 커지는 패턴을 보였다.

AI 인프라의 구조적 전환

에이전트 AI가 본격 상용화되면서 인프라 공급자들은 새로운 제약에 직면했다. 첫째, 더 많은 에이전트를 동시에 처리해야 하는데, 각 에이전트가 대기 시간 없이 빠르게 반응해야 한다는 이중 요구다. 둘째, 데이터센터 전체의 전력 예산이 고정되어 있다는 현실적 한계다. 전력 소비 증가와 성능 향상은 함께 가기 어려워, 기존에는 두 종류의 x86 CPU를 혼용해야 했다.

Vera는 이 딜레마를 단일 칩에서 해결하려는 엔비디아의 전략을 드러낸다. GPU 추론 중심의 AI 인프라에서 CPU 실행 부분이 병목이 되는 현상이 두드러지면서, CPU 설계 자체가 에이전트 워클로드에 맞춰져야 한다는 인식이 높아졌기 때문이다.

이는 단순히 칩 성능 개선이 아니라 AI 팩토리 전체 파이프라인의 재설계를 신호한다. 앞으로 CPU 선택 기준 자체가 AI 작업의 성격에 따라 최적화되는 시대로 진입했음을 의미한다.