클라우드플레어(Cloudflare)가 인공지능(AI) 서비스 규정준수 모니터링 기능을 강화했다. 클로드(Claude)를 개발한 앤트로픽(Anthropic)의 규정준수 API와 클라우드플레어의 클라우드 접근 보안 중개(CASB) 기능을 연동하는 기능을 21일(현지시간) 공식 발표했다. 이제 기업의 보안·규정준수 팀이 클라우드플레어 대시보드에서 Claude 사용 현황을 직접 모니터링할 수 있다. 별도 엔드포인트 에이전트는 필요하지 않다.

AI 도구의 '검은 상자' 문제

지금까지 기업 보안팀은 직원들이 승인한 AI 애플리케이션 내부에서 어떤 활동을 하는지 거의 볼 수 없었다. 전통적인 SaaS(소프트웨어 서비스) 애플리케이션과 AI 도구는 본질적으로 다르다. 직원은 파일을 업로드하고, 자유형식의 프롬프트를 입력하며, AI는 민감 데이터를 포함할 수 있는 콘텐츠를 생성한다.

클라우드플레어 보안 담당자는 성명을 통해 "AI 도구의 빠른 채택이 보안 거버넌스를 앞질렀다"고 지적했다. IT 팀과 보안팀은 생산성을 위해 AI 도구 도입을 독려했으나 보안 제어가 따라가지 못했다. 현재 대부분의 기업은 부분적 투명성만 확보하고 있다. 네트워크 계층에서 미승인 AI 도구는 차단할 수 있지만, 승인된 도구 내부에서 일어나는 일은 볼 수 없다.

이는 심각한 규정준수 위험을 초래한다. 직원이 고객 데이터를 프롬프트에 붙여넣거나, 개발자가 실수로 API 키를 공유하고 몇 달간 로테이션하지 않는 경우가 있다. AI 애플리케이션이 회사 기밀 정보를 담은 콘텐츠를 생성할 수도 있다. 이런 행동들이 기존 보안 도구로는 감지할 수 없는 규정준수 위험을 만든다.

다층 보안 스택으로 대응

클라우드플레어는 AI 도구의 안전한 도입을 위해 여러 제품을 조합하는 '스택' 전략을 펴고 있다.

첫째, AI 게이트웨이(AI Gateway)는 기업 애플리케이션과 앤트로픽 같은 AI 공급업체 사이에 위치해 요청, 토큰 소비, 모델 성능에 대한 투명성을 제공한다. 관리자는 요청 속도 제한, 응답 캐싱, 세밀한 라우팅 결정을 적용할 수 있다.

둘째, 게이트웨이(Gateway)와 데이터 손실 방지(DLP) 도구는 AI 트래픽에서 민감 정보를 검사하고, 고객 개인식별정보(PII)나 기밀 자료를 담은 프롬프트가 모델에 도달하기 전에 차단한다.

셋째, 액세스(Access) 제품과 MCP 서버 포털은 에이전트의 기업 도구 접근을 하나의 보호된 엔드포인트 뒤에 중앙화하고, 모든 요청을 감사 기록에 남긴다.

마지막으로 CASB는 이제 클라우드 내 데이터 감시까지 확장된다. 엔드포인트 에이전트 없이 API 통합만으로 보안 설정 오류와 민감 정보를 스캔한다.

Claude 규정준수 API의 실제 기능

클라우드플레어 CASB가 Claude 규정준수 API를 통해 감지하는 항목은 다음과 같다:

▶ 프로젝트: 조직 전체 또는 특정 사용자·그룹과 공유된 프로젝트 감지 ▶ 프로젝트 첨부파일: DLP 정책 위반 파일·문서 감지 ▶ 채팅 파일: 사용자 업로드 및 AI 생성 파일 중 DLP 정책 위반 감지 ▶ 채팅 메시지: 사용자 프롬프트 및 AI 응답 중 정책 위반 감지 ▶ 아티팩트: AI 생성 문서·파일 중 정책 위반 감지

모든 발견사항은 클라우드플레어 대시보드에 다른 SaaS 애플리케이션의 발견사항과 함께 표시된다. 보안팀은 Microsoft 365, Google Workspace, Salesforce에 적용하는 것과 동일한 워크플로우로 Claude 관련 위험을 분류, 할당, 개선할 수 있다.

'발견'에서 '행동'으로

CASB의 진정한 가치는 발견을 행동으로 전환한다는 데 있다. Claude에서 민감 데이터를 포함한 파일 업로드가 감지되면, 수 분 안에 게이트웨이 정책으로 변환된다. 관리자는 특정 사용자의 Claude 업로드를 차단하거나, 애플리케이션 접근을 제한하거나, 문제가 해결될 때까지 기능을 제한할 수 있다.

클라우드플레어는 CASB 발견과 기존 인라인 정책 엔진을 결합해 보안팀을 '투명성'에서 '조치'로 이동시킨다는 방침이다.

현재 클라우드플레어는 Claude Enterprise 고객을 우선 지원한다. Claude Platform 사용자도 멤버와 워크스페이스 변경, API 키 생성, 파일 생성·다운로드 이벤트를 모니터링할 수 있으며, 향후 활동 피드 지원도 추가할 예정이다.