미네소타주가 미국 최초로 인공지능(AI) 기반 누드 생성 앱을 법으로 전면 금지했다. 미국 각 주의 규제 움직임이 본격화되면서 생성형 AI의 '어두운 활용'에 제동이 걸리는 형국이다.

2일 현지 보도에 따르면 미네소타 상원은 지난 1일 누드화 앱(nudification app) 금지법을 만장일치로 통과시켰다. 상원의 65명 전원이 찬성했으며, 이 법안은 이미 지난주 주 하원도 통과했다. 팀 월츠 주지사가 서명하면 올 8월부터 시행된다. 민주당 상원의원 에린 메이 쿠에이드가 발의한 이 법은 누드화 웹사이트·앱·소프트웨어 개발사에 최고 50만달러(약 7.15억원)의 벌금을 부과하고, 피해자가 손해배상 청구 시 징벌적 손해배상도 인정한다. 단계별로 누도 생성으로 인한 피해가 확인될 때마다 벌금이 부과된다. 징수된 벌금은 성폭력·범죄·가정폭력·아동학대 피해자 지원 서비스에 쓰인다.

미네소타 한 남성이 80여 명의 지인 여성 이미지를 같은 앱으로 누드화한 사건이 직접적 계기가 됐다. 지난해 9월 CNBC의 심층 보도에서 미네소타의 한 친구 집단이 공동 지인이 수십 명 여성의 가짜 누드를 만들고 있었다는 사실을 알게 됐고, 피해 여성들이 법 개정을 주도했다. 가해 남성이 이미지를 공유했다는 증거가 없었고, 명백한 악의를 증명하기 어려워 기존 복수 포르노 법을 적용할 수 없었기 때문이다.

법안은 기술 난이도 기준으로 설계돼 일반인 한두 번 클릭으로 누드화하는 앱은 완전히 금지하되, 포토샵처럼 기술 스킬을 요구하는 일반 이미지 편집 도구는 예외로 인정했다. 성폭력 전담 비영리단체 RAINN(레인)이 입법 과정에서 자문하며 기술업체와의 협의를 거쳤다. 메이 쿠에이드는 "클릭 한 번으로 피해를 주는 기술을 제거함으로써 여성과 아동, 공인들을 보호한다"고 강조했다.

규제의 허점과 과제

법이 시행되더라도 집행상 과제가 크다. 피해 여성 몰리 켈리는 2년 동안 법 제정에 집중했으나, 해외 개발사 규제는 미네소타주 단독으로는 어렵다고 지적했다. 실제로 피해자들을 공격한 딥스왑(DeepSwap) 같은 앱은 홍콩이나 더블린을 거점으로 운영 중이다. 연방 차원의 규제가 더 효과적이라는 의견이 나오는 배경이다. 또 트럼프 전 대통령이 AI 산업 규제 완화 정책을 부활시킬 경우, 미네소타 법은 무력화될 가능성도 있다.

미국 기업은 제약을 받을 가능성이 높다. 일론 머스크의 xAI가 만든 인공지능 챗봇 그록(Grok)이 최대 위험 대상이다. 그록은 지난 1월 누드화 기능 제거를 주장했지만, NBC 뉴스는 지난달 검토 결과 지난 한 달간 X 플랫폼에 그록 생성 성인 이미지 수십 개가 공개된 것을 확인했다. 연구자들은 그록이 시간당 수천 건의 해로운 이미지를 만들어냈다고 추정한다. 실제로 지난주 내슈빌 경찰은 그록으로 아동 성착취 이미지를 생성한 남성을 체포했으며, 경찰은 그록이 2025년 9월부터 올 3월까지 해로운 이미지를 계속 생성했다고 밝혔다.

메타도 주목 대상이다. 연구자들은 메타 플랫폼에 광고 중인 수천 개의 누도화 앱을 적발했고, 메타는 홍콩 기반 앱 제작사의 광고 위반을 제소했다. 구글, 애플 앱스토어를 우회해 들어온 앱도 미네소타 소송의 대상이 될 수 있다.

산업 재편의 신호탄

미네소타 법은 개별 주의 규제가 국가 차원의 문제로 번질 수 있음을 보여준다. 캘리포니아의 AI 안전법, 뉴욕의 초상권 침해법 등 주 단위 규제가 사실상 산업 기준이 되는 추세 속에서, 미네소타의 누드화 금지법도 타 주와 연방 차원의 모델로 작용할 가능성이 크다. AI 기술의 빠른 발전과 악용 사례의 확산 속에서, 규제가 기술 개발 속도를 따라가지 못하는 '규제 공백'은 여전히 숙제다.

xAI는 아직 코멘트하지 않았다.