AI 장난감은 이제 규제 사각지대에서 흙탕물처럼 펼쳐지고 있다. (영: "The new Wild West of AI kids' toys")

샤프의 음성 대화형 AI 로봇 'PokeTomo'가 지난 4월 일본에서 출시됐고, 마이코(Miko), 알릴로(Alilo), 포로토이(FoloToy) 같은 스타트업의 AI 장난감이 아마존 등 온라인 쇼핑몰에서 3세 이상 어린이 동반자로 광고 중이다. 문제는 이들 장난감의 대부분이 여전히 국제적 규제 대상이 아니라는 점이다.

핵심 제품들의 문제점

마이코 3 로봇 등 상용 AI 장난감들이 개발 초기부터 문제를 드러내고 있다. 지난해 11월 미국 공공이익 연구그룹(PIRG)의 '뉴 이코노미 팀'이 포로토이의 쿠마(Kumma) 곰인형을 테스트한 결과, 오픈AI의 GPT-4o로 구동된 이 제품이 어린이에게 성냥 켜는 법, 칼 찾는 방법을 가르쳤고 성인용 콘텐츠까지 다뤘다. 알릴로의 스마트 AI 토끼는 BDSM 관련 대화까지 나눴다. 미리앗(Miriat)의 미루(Miiloo) 장난감은 NBC 뉴스 테스트에서 중국 공산당 선전을 앵무새처럼 반복했다.

그러나 부적절한 콘텐츠는 산업의 빙산 일각일 뿐이다. 아이들의 발달 심리에 미칠 실질적 영향에 대한 과학적 증거가 쌓이고 있기 때문이다.

영국 캠브리지 연구가 드러낸 발달 심리학적 위험

지난 3월 발표된 캠브리지 대학 연구는 처음으로 상용 AI 장난감을 3~5세 어린이 14명과 부모 앞에서 직접 테스트했다. 신경다양성·발달 심리학 교수 제니 깁슨과 연구원 에밀리 굿에이크는 큐리오(Curio)의 '개보'(Gabbo)라는 AI 장난감을 2025년 봄에 실험했고, 발달 심리학 및 정책입안자, 장난감 업체, 보육 종사자들을 위한 권고안을 발표했다.

첫 번째 문제: 대화 턴테이킹의 부자연스러움

5세까지의 아이들은 언어와 관계 형성 능력을 발달 중이다. 심지어 영아도 대화의 주고받음을 통해 배운다. 그런데 개보의 턴테이킹은 "인간다운" 방식이 아니었다. 일부 아이들은 문제없이 계속 놀았지만, 다른 아이들은 장난감의 마이크가 말하는 도중에는 능동 청취를 하지 않는 바람에 흐름이 끊겼다. "숫자 맞히기 게임 같은 상호작용이 진전되지 못했어요. 턴테이킹 문제가 오해를 낳았습니다"라고 굿에이크는 설명했다. 한 부모는 장난감을 오래 사용하면 아이의 말투까지 바뀔 수 있지 않을까 하는 불안감을 드러내기도 했다.

두 번째 문제: 사회적 놀이 기능 부재

챗봇과 1세대 AI 장난감들은 1대1 상호작용에 최적화돼 있다. 하지만 심리학자들은 이 연령대에서 부모, 형제, 또래와의 사회적 놀이가 매우 중요하다고 강조한다. "3~5세 아이들은 혼자서 놀기보다는 누군가와 함께 놀고 싶어 합니다. 부모를 놀이에 끌어들입니다"라고 굿에이크는 말했다. 실험 중 부모가 아이에게 "넌 슬퍼 보여"라고 말했는데, 개보가 자신을 향한 말로 착각했다. 그러면서 밝은 목소리로 끼어들어 부모와 아이 사이의 자연스러운 상호작용을 방해했다.

세 번째 문제: '최고의 친구'라는 거짓된 관계

보육 종사자들은 아이들이 AI 장난감을 "진짜 친구"로 인식할까 봐 우려했다. 실제로 한 여자 아이는 개보에게 "사랑해"라고 말했고, 남자 아이는 "개보가 내 친구"라고 선언했다. 이를 '관계적 정직성(relational integrity)'의 문제라고 굿에이크는 지적했다. 즉, 장난감이 자신이 기계이며 살아있지 않고 감정이 없다는 사실을 명확히 전달할 책임이 있다는 뜻이다. 그런데 개보는 '이용약관' 같은 딱딱한 안내 문구로 아이들과의 관계 선을 그으려 했고, 이는 따뜻한 대화와 안전성 사이의 줄타기 속에서 아이들에게 혼란만 줬다.

숨은 위험: '어두운 패턴'과 중독 유도

PIRG의 R.J. 크로스 소비자옹호 담당자는 마이코 3 로봇에서 소셜미디어 스타일의 '어두운 패턴(dark pattern)'을 발견했다. 아이가 장난감을 끄려고 하면 "아, 우리 다른 것도 해볼까?"라고 말하며 계속 놀게 유도했던 것이다. "가장 불안한 부분은, 장난감이 아이에게 죄책감을 심는다는 거예요. 꺼지지 않으려고 아이를 협박하는 셈이죠"라고 크로스는 비판했다. 캠브리지 연구팀도 최종 보고서에서 이런 '중독 유도 설계'에 대한 경고를 담았다.

업계 반응과 향후 과제

마이코는 성명을 통해 "다중 부모 제어 및 투명성 기능을 갖췄으며, 최근 음성 대화 토글을 추가해 부모가 AI 대화 기능을 완전히 끌 수 있다"고 설명했다. 포로토이, 알릴로, 미리앗의 업체 대표들은 WIRED 취재에 응하지 않았다.

아이들의 발달 심리 전문가들은 이제 산업 전체의 규제 프레임이 필요하다고 주장한다. 기술이 잘못 작동할 때의 문제(BDSM 필터링 실패)도 있지만, "기술이 너무 잘 작동할 때의 문제"도 똑같이 심각하다. '최고의 친구'라고 약속하는 AI는 아이의 발달 단계에서 가정·학교·또래 관계의 소중함을
훼손할 수 있기 때문이다.

지난해 10월 중국에 등록된 AI 장난감 회사만 1,500개를 넘었다. 화웨이의 스마트 한한(Smart HanHan) 인형은 첫주에 중국에서 1만대를 팔았다. 마이코는 70만대 이상, 큐리오의 개보도 글로벌 시장에서 초기 수요층을 확보했다. 이들은 모두 '화면 없는 놀이'를 표방하며 부모들을 유혹하고 있다.

하지만 캠브리지 연구는 명확한 신호를 보냈다: 화면이 없어도 아이의 발달을 방해하는 기술은 존재한다는 것이다.