오픈AI가 기업의 AI 활용 현황을 분석한 'B2B Signals' 보고서를 공개했다. 선도 기업들이 평범한 기업 대비 인공지능(AI)을 3.5배 깊게 활용하고 있으며, 이 격차가 빠르게 확대되고 있다는 것이 핵심 내용이다.

오픈AI는 기업 고객들의 비식별화된 집계 데이터를 분석해 이 보고서를 작성했다. 메시지 량, 토큰 사용량, 도구별 채택 양상 등을 추적해 AI 활용의 깊이를 측정했다.

AI 격차의 원인: 량이 아닌 깊이

가장 주목할 지표는 'AI 활용 깊이'다. 상위 5%(95 percentile) 선도 기업들이 근로자 1인당 생성하는 AI 출력 토큰 수는 일반 기업의 3.5배에 달한다. 더 놀라운 것은 이 격차가 작년 2배에서 1년 사이 1.75배 증가했다는 점이다.

오픈AI는 메시지 빈도만으로는 이 차이의 36%만 설명 가능하다고 밝혔다. 나머지 64%는 '사용 깊이'에서 비롯된다. 선도 기업 직원들은 AI에게 더 복잡한 작업을 맡기고, 더 풍부한 문맥을 제공하며, 더 실질적인 결과물을 요구한다. 평범한 기업이 AI를 '질문 답변 도구'로 쓰는 반면, 선도 기업은 실제 업무 실행의 일부로 활용한다는 의미다.

에이전트 워크플로우의 부상

선도 기업과 평범한 기업의 격차가 가장 큰 부분은 고급 도구 사용이다. 코드 작성 보조 도구인 Codex는 선도 기업이 근로자 1인당 16배 많은 메시지를 보냈다. ChatGPT Agent, ChatGPT 앱, Deep Research, GPT 등 다중 단계 작업과 위임을 지원하는 도구 채택에서도 유사한 패턴이 보인다.

오픈AI는 이를 "성숙도의 다음 신호"라고 표현했다. AI 에이전트가 더 많은 도구를 활용하고 코드베이스와 파일을 넘나들며 장기 목표를 수행할수록, 기업들은 단순한 인터페이스 개선이 아닌 업무 재설계부터 시작해야 한다는 뜻이다.

시스코는 이를 실제로 구현하고 있다. 엔지니어링 조직 전체에 Codex를 도입한 결과, 빌드 시간을 약 20% 단축했고 월 1,500명 이상의 엔지니어링 시간을 절감했다. 결함 해결 처리량은 10배에서 15배 증가했다. 시스코 팀은 성과의 핵심을 "Codex를 팀의 일부로 여기는 것"이라고 설명했다.

함수별 전문화, 산업별 진화

AI 활용은 광범하게 확산되지만 점점 더 전문화되고 있다. IT와 보안 팀은 절차 가이드와 방법론에 집중하고, 소프트웨어 개발과 데이터 과학 팀은 코딩 작업에 활발하고, 재무 팀은 분석과 계산에 몰두한다.

산업 간 리더십의 형태도 다양하다. 어떤 산업은 광범한 ChatGPT 채택으로 앞서고, 다른 산업은 Codex 사용, API 집약도, 메시지 빈도에서 선도한다. 이는 각 기업이 접근 방식을 선택할 수 있다는 뜻이다.

여행보험사인 트래블러스 인슈런스는 오픈AI로 구축한 'AI 보험금청구 어시스턴트'로 고객이 보험 청구를 시작할 때 필요한 정보를 자동으로 수집하고 청구를 시스템에 직접 입력한다. 첫해 약 10만 건의 보험금 청구를 처리할 것으로 예상된다.

한국 기업의 과제

선도 기업과 평범한 기업의 격차가 고정적인 것은 아니지만, 추격의 난도는 높아지고 있다. 단순한 도구 도입을 넘어 워크플로우 재설계 역량, 데이터 거버넌스, 직원 교육이 필수적이다. 한국 대기업과 스타트업들도 AI 접근성은 높아졌지만, 실제 업무 재설계와 에이전트 위임 문화는 아직 초기 단계다. 선도 기업들이 보여주는 "팀의 일부로 여기는" 사고방식의 전환이 경쟁력 차이를 만드는 요소가 될 것으로 보인다.