오픈AI가 채팅 기반 AI 플랫폼의 심리 안전망을 한 단계 강화했다. 7일(현지시간) 오픈AI는 ChatGPT에 신뢰할 수 있는 사람을 미리 지정해두면 자해·자살 위험 신호를 감지할 때 그 연락처에 알림을 보내는 '신뢰 연락처(Trusted Contact)' 기능을 전세계적으로 배포하기 시작했다고 밝혔다.

실제 위기 상황에서 인간관계로의 연결

신뢰 연락처는 18세 이상 성인(한국은 19세 이상)이 친구·가족·보호자 중 한 명을 미리 지정하는 선택 기능이다. 자동 모니터링 시스템과 인간 검토자가 사용자의 대화에서 심각한 자해 위험을 감지하면, ChatGPT는 먼저 사용자에게 알려 신뢰 연락처와 대화하도록 권유한다. 그 후 특별 교육을 받은 검토팀이 상황을 재검토하고, 위험이 인정되면 신뢰 연락처에게 이메일·문자·앱 알림을 통해 통보한다.

알림의 내용은 의도적으로 제한된다. 자해 관련 내용이 얼마나 우려스러운 양식으로 나타났는지만 알리고 채팅 기록이나 대사는 공유하지 않아 사용자의 개인정보를 보호한다. 알림 과정의 전 단계에서 1시간 이내 검토를 목표로 한다.

'사회적 연결'을 보호 인자로 설계

신뢰 연락처는 미국질병통제예방센터(CDC) 자료를 근거로 한다. CDC 전문가들은 사회적 연결이 자살 위험을 줄이는 가장 중요한 보호 인자라고 꼽는다. 오픈AI는 기존 부모 통제 알림 기능(미성년자 계정용)을 성인으로 확대하는 형태로 신뢰 연락처를 설계했다. 심리 위기 상황에서 '신뢰하는 사람'과 먼저 연결되도록 유도하는 방식이다.

이 기능을 개발할 때 오픈AI는 미국심리학회(APA)·조지아공대 등 임상의·안전 전문가들과 협력했다. 오픈AI 글로벌 의사 네트워크(60개국 260명 이상의 의사)와 웰빙 및 AI 전문가 위원회가 참여했다.

'자동화+인간 검토'의 이중 잠금 장치

신뢰 연락처의 핵심은 자동 감지 후 필수적인 인간 검토 단계다. 시스템이 위험 신호를 감지했어도 사람이 1시간 이내에 재검토해야만 알림이 발송된다. 이는 오픈AI가 수치화된 AI 판단에만 의존하지 않겠다는 책임감의 표현이다. 다만 한계도 있다. 오픈AI도 "어떤 시스템도 완벽하지 않다"며, 알림이 사용자의 실제 상태를 완전히 정확히 반영하지 못할 수 있다고 인정했다.

한국 규제 환경, 미성년자 보호 강화 움직임의 신호

오픈AI의 움직임은 전세계적 흐름을 반영한다. 한국도 2024년부터 '유튜브·틱톡 과다 사용 미성년자 보호' 이슈가 국회와 방송통신위원회 안건에 오르기 시작했다. 플랫폼이 자발적으로 심리 안전장치를 강화하는 것이 규제를 선제하는 전략이 되고 있다. ChatGPT는 한국에서도 월 1,000만 이상 월활성 사용자를 보유하고 있어, 신뢰 연락처 같은 안전 기능의 영향 범위가 크다.

AI 플랫폼이 단순한 정보 제공 도구를 넘어 사용자의 심리 위기를 감지하고 대응하는 '안전망의 일부'로 역할을 넓혀가고 있다는 의미다.