마이크로소프트가 'Build 2026' 행사에서 주목할 스타트업 11곳을 공개했다. 인공지능(AI)이 개념 증명(PoC)에서 실제 프로덕션 환경으로 이동하는 가운데, 엔터프라이즈 고객이 직면한 진짜 문제를 푸는 기업들을 중심으로 선정했다.

올해 Build는 시애틀에서 샌프란시스코로 무대를 옮겼다. MS는 "AI 인프라 생태계가 가장 치밀한 곳"이라며 스타트업과 개발자 도구, 컴퓨팅, 데이터 관찰성(Observability) 영역의 기업들과 협력하겠다는 입장을 전했다.

프로덕션 AI의 현실, '비용·환각·데이터' 문제

작년만 해도 스타트업 창업자들은 MS에 "AI로 만들어야 하나"를 묻는 질문을 던졌다. 올해는 "어떻게 프로덕션 환경에서 대규모로 안정적으로 운영할까"로 초점이 옮겨졌다.

초기 PoC 단계와 실제 운영 환경 사이에는 거대한 간극이 있다. 모델의 환각(Hallucination) 문제, 에이전트의 드리프트, 민감한 데이터 노출 위험, 기하급수적으로 증가하는 비용—이런 문제들이 엔터프라이즈 구매 결정을 막아섰고, 결과적으로 인프라 레이어 기술에 대한 투자가 폭발했다.

MS가 주목한 기업들은 모두 이 문제들을 푸는 데 집중한다. 데이터베이스는 멀티모달 검색을 고속·대규모로 처리할 수 있어야 하고, 합성 데이터(Synthetic Data) 플랫폼은 민감 정보를 노출하지 않으면서도 프로덕션 수준의 데이터를 제공해야 한다. 컴퓨팅 프레임워크는 AI 워클로드를 자동으로 확장 배포할 수 있어야 하고, 관찰성 도구는 애플리케이션 성능처럼 언어모델(LLM)의 동작을 투명하게 추적해야 한다.

주목할 6대 스타트업

MS가 발표한 11곳 중 주요 6개 기업을 살펴봤다. 모두 MS for Startups Pegasus Program 회원이거나 MS의 벤처펀드 M12의 지원을 받으며, Azure Marketplace에서 직접 구매·배포 가능하다.

NeuBird(Hawkeye) — 엔지니어링팀이 사고(Incident) 대응에 쓰는 시간은 엄청나다. NeuBird의 에이전틱 SRE(Site Reliability Engineer) 'Hawkeye'는 관찰성 스택 전역의 텔레메트리 데이터를 해석하고 문제를 진단해 수 시간이 아닌 수 분 내에 해결한다. MS에 따르면, 고객들은 2025년 이 제품으로 23만 건의 알림을 처리했고 엔지니어 12,000명 규모의 업무 시간을 절약했다.

Replit — "조직 내 모든 사람이 소프트웨어를 만들 수 있어야 한다"는 철학으로 에이전틱 개발 플랫폼을 제공한다. 현재 비즈니스 사용자 50만 명 이상이 활용 중이다. Azure Container Apps, Azure VM, Neon Serverless Postgres와 통합되며, 기존의 엔지니어링 병목을 우회해 엔터프라이즈급 애플리케이션을 빠르게 만들 수 있다.

Anyscale — 분산 컴퓨팅 오픈소스 'Ray'는 월 2,700만 다운로드를 기록하며 Uber, Spotify, Canva 같은 대형 기업에서 AI 워클로드를 처리한다. Anyscale은 MS와 함께 Ray 기반의 완전 관리형 Azure 서비스를 개발했다. Azure Kubernetes Service(AKS) 위에서 학습·추론·데이터 처리를 고성능으로 실행하며, 자가 관리 대비 최대 10배 빠르다는 평가를 받았다.

Moderne — 대부분의 AI 코딩 도구는 새 코드 작성을 돕는다. Moderne는 반대다. 수백만 줄의 레거시 코드를 이해하고 현대화하는 문제를 푼다. OpenRewrite 오픈소스 프레임워크를 기반으로 수천 개의 저장소에서 동시에 대규모 리팩토링을 자동화한다. Squarespace, Allstate, 북미 상위 5대 은행이 사용 중이며, 이들 기관은 수만 명의 엔지니어 손으로 몇 년 걸릴 기술부채 제거를 가속화했다.

CoreStory — 레거시 코드 현대화의 첫 단계는 "이게 뭐 하는 코드인가"를 파악하는 것이다. CoreStory의 Code-to-Spec 플랫폼은 에이전틱 AI로 수백만 줄 코드를 분석해, 비즈니스 규칙·시스템 관계·개발자 의도를 담은 '살아있는 문서'를 자동 생성한다. 과거엔 18개월 수동 검토가 필요했던 작업이 이제 며칠이면 된다. MS와 함께 발표한 연구에 따르면, CoreStory의 구조화된 명세(Spec)를 AI 소프트웨어 엔지니어링 에이전트와 함께 사용하면 정확도가 51% 향상된다.

Faros AI — AI 코딩 도구는 흔하다. "이 도구가 실제로 팀의 생산성을 높이는가"를 아는 건 어렵다. Faros AI의 엔지니어링 인텔리전스 플랫폼은 100개 이상의 도구(GitHub Copilot 포함)에서 데이터를 수집해 생산성, 전달 속도, AI ROI를 단일 대시보드에서 추적한다. 2025년 MS for Startups 최우수 파트너로 선정됐다.

한국 기업의 과제

한국의 IT 기업들도 같은 현안을 마주했다. 챗봇·고객서비스 AI 도입 후 "운영 비용이 급증한다", "응답이 부정확하다"는 항의가 잇따른다. 국내 스타트업도 Moderne 같은 레거시 현대화, CoreStory 같은 코드 분석 자동화, NeuBird 같은 관찰성 강화에 수요가 있다.

다만 한국 시장은 이런 고급 인프라 도구의 채택이 아직 초기 단계다. 국내 대다수 조직이 여전히 "AI를 먼저 실험해보자"는 단계에 있고, 프로덕션 환경의 안정성·비용 최적화를 고민하는 엔터프라이즈는 아직 많지 않다. 결국 3~5년 뒤 한국의 AI 도입이 성숙기로 접어들면, 이들 스타트업이 제시한 솔루션들의 수요가 폭발적으로 늘어날 가능성이 높다.

MS가 Build를 샌프란시스코로 옮기고 인프라 중심 스타트업을 집중 조명한 건, "AI의 미래는 더 이상 모델 자체가 아니라 그것을 안정적·경제적으로 운영하는 인프라"라는 신호다. 한국 스타트업과 기업들도 이 흐름을 놓치지 않아야 한다.