마이크로소프트가 개인의 동의 없이 공유되는 친밀한 사진 유포(NCII, Non-Consensual Intimate Imagery) 문제에 대한 대응을 대폭 강화한다고 27일 밝혔다. 실제 사진뿐 아니라 인공지능(AI)으로 생성된 이미지까지 포괄하는 정책으로, 미국의 'Take It Down Act' 발효에 맞춰 신고 프로세스 개선과 자동 탐지 기술 확대를 추진한다.

신고 프로세스 재설계, 사용자 부담 경감

마이크로소프트는 글로벌 신고 시스템을 직관적으로 재설계했다. 피해자나 대리인이 NCII 콘텐츠를 신고할 때 더 명확한 옵션을 제시하고, 실사진과 AI 생성 이미지를 구분해 신고할 수 있도록 개선했다는 것이다.

회사는 "신고 과정 자체가 2차 피해로 이어질 수 있다"는 점을 인식해, 신고자의 정신적 부담을 줄이면서도 내부 팀의 빠르고 효과적인 대응을 가능하게 하는 것을 목표로 설정했다.

마이크로소프트의 NCII 정책은 실제 이미지와 합성 이미지를 구분하지 않고 동일하게 적용한다. "이미지가 어떻게 만들어졌든 개인에게 미치는 해는 같다"는 원칙을 반영한 것이다.

해시 기술 확대, 산업 간 협력 강화

더욱 주목할 점은 StopNCII.org 플랫폼과의 협력 확대다. 이 플랫폼은 피해자들이 자신의 이미지를 디지털 '지문'(해시)으로 변환할 수 있게 해준다. 마이크로소프트가 2년 전 제공한 PhotoDNA 신버전은 피해자의 기기를 떠나지 않으면서도 이미지 해시를 생성하도록 설계돼 개인 정보 보호와 효율성을 동시에 달성했다.

이 해시 기술은 StopNCII.org 파트너들이 여러 플랫폼에 걸쳐 동일한 이미지의 재유포를 자동 탐지하고 삭제하는 데 사용된다. 마이크로소프트는 2024년 9월부터 빙(Bing) 검색에서 이 기술을 시범 운영해 왔으며, 이제는 범위를 대폭 확대한다.

구체적으로는 팀스 프리(Teams Free), 원드라이브(OneDrive), 엑스박스(Xbox) 등 마이크로소프트 소비자 서비스 전반에 검증된 StopNCII.org 해시를 적용하기로 했다. 회사는 "효율성과 정확성을 동시에 추구하면서 신고 건에 대해서는 인간의 검토를 유지하고, 사용자의 이의 제기 경로를 명확하게 제공할 것"이라고 설명했다.

규제 변화와 업계 동향

Take It Down Act 발효는 미국 연방 차원의 NCII 보호 강화를 의미한다. 마이크로소프트는 이 법안을 지지했으며, 유럽연합(EU)의 'Nudification' 앱 규제 노력과 영국 온라인 안전법(Online Safety Act) 강화도 주시하고 있다.

업계 전체로는 이미지 기반 학대(image-based abuse)를 범죄화하는 글로벌 움직임이 확산 중이다. 마이크로소프트는 이런 규제 환경 변화가 피해자, 사용자, 규제당국과의 신뢰를 유지하는 데 도움이 될 것이라고 본다.

단, 개별 기업의 대응만으로는 한계가 있다는 점도 명확히 했다. NCII 문제는 기업, 정부, 시민사회 간 광범위한 협력을 요구한다는 뜻이다.

교육으로 예방, 미성년자 보호 강화

단순히 사후 대응을 넘어 예방 교육도 강화하고 있다. 마이크로소프트는 영국 아동 보호 NGO인 Childnet과 손잡고, AI를 악용해 친밀한 이미지를 만드는 것을 방지하기 위한 교육 자료를 개발했다.

이 자료는 영국에서 먼저 출시됐으며, 싱가포르, 한국, 일본 등 아시아 국가들과 협력해 현지화 버전도 배포되고 있다. 특히 미성년자 대상 교육에 집중하고 있는 만큼, 학교와 학부모 단체의 참여도 기대하고 있다.

한국의 맥락: 기술 기업의 책임 확대

한국도 비슷한 문제의 심각성을 인식하는 단계다. 마이크로소프트의 한국 지역 교육 자료 현지화는 국내 기술 기업들에게도 시사하는 바가 크다.

국내 소셜미디어, 메신저, 클라우드 서비스 제공자들도 단순한 이용약관 위반 수준을 넘어 NCII 대응에 대한 기술적·법적 인프라를 정비할 필요가 있다는 뜻이다. 동의 없는 이미지 유포는 명백한 범죄 행위이면서도, 플랫폼 측의 탐지 기술 투자나 신고 편의성이 아직 부족한 상황이다.

또한 AI 기술이 발전하면서 진짜 사진과 합성 이미지의 경계가 흐릿해지는 추세도 한국에서 현실화되고 있다. 국내 정부 차원의 규제 논의가 시작되기 전에, 기술 기업들이 자발적으로 대응 표준을 마련하는 것이 신뢰 회복과 피해 최소화의 지름길이 될 수 있다.

마이크로소프트의 이번 발표는 단순히 기술 기업의 사회적 책임 선언을 넘어, NCII 문제가 "기술 투자, 규제, 사용자 교육이 세 발로 서야 해결된다"는 인식을 보여준다. 한국 기술 기업과 정책당국이 주목해야 할 기준이 될 것으로 예상된다.