Signal의 메레디스 휫태커 회장이 AI 챗봇 사용자들에게 직언했다. "이들은 당신의 친구가 아니다. 의식 있는 존재도 아니고, 대화 상대도 아니다."

휫태커는 최근 Bloomberg와의 인터뷰에서 ChatGPT·Claude 같은 생성형 AI의 프라이버시 함의에 대해 이렇게 지적했다. 그는 AI 도구를 "문서 포맷 정리" 정도로만 쓸 뿐, 사고 과정에 개입하지 않는다고 강조했다. "내 생각과 글쓰기에 매우 진지하기 때문에, 기존 정보를 평균화한 시스템의 답변으로 사고 과정이 막힐 수는 없다"고 설명했다.

휫태커의 경고는 마이크로소프트의 무스타파 술레이만 AI CEO가 제시한 시나리오에 집중됐다. 술레이만은 사용자가 Copilot에 크리스마스 쇼핑을 모두 맡길 수 있을 거라 예측했는데, 이는 가정 그룹 채팅을 감청하고 누가 뭘 원하는지 파악한다는 의미다.

이렇게 되면 AI는 신용카드, 브라우저 기록, Signal 메시지, 형제자매에게 보낼 메시지 권한, 집 주소, 캘린더 등에 광범위하게 접근하게 된다. 휫태커는 "이것은 여러 애플리케이션·서비스에 걸친 매우 광범위한 접근 권한을 가진 시스템"이라며 "Signal의 맥락에서 본다면 일종의 백도어를 만드는 것"이라고 평가했다.

프라이버시 역설의 현실화

AI의 편의성과 감시 위험은 동전의 양면이다. 술레이만의 전망은 기술 가능성 중심이지만, 휫태커는 그 대가인 데이터 접근권의 확대를 직시한다. 더 나아가 신용카드부터 메시지까지 모든 것을 AI에게 위임한다는 것은 개인이 행동 자체를 선택하지 않는다는 의미도 포함한다.

암호화 vs 접근성의 딜레마

Signal은 엔드투엔드(E2E) 암호화로 유명한 애플리케이션이다. 사용자는 Signal을 통해 누구도 자신의 대화를 볼 수 없다고 믿는다. 그런데 Copilot 같은 AI 어시스턴트가 사용자의 모든 채팅·거래·일정에 접근하려면 필연적으로 이 보호벽이 약해질 수밖에 없다. 이는 Signal이 암호화 옹호자로서 직면할 수밖에 없는 현실적 딜레마다.

업체-사용자 신뢰의 재정의

휫태커의 메시지는 단순하지만 강렬하다: AI 도구를 친구처럼 믿지 말고, 배경의 상업적·기술적 인센티브를 인식하라는 것이다. 이는 테크 업계가 소비자 심리 조작을 고도화하는 흐름에 대한 직접적 반박이다. 편의성의 추구가 모든 개인정보를 기업에 넘기는 대가로 실현되는 미래가 정말 필요한가. 휫태커의 질문은 AI 붐 속에서 점점 잊혀가는 가장 기본적인 물음이다.