AI 어린이 장난감 ‘무법지대’ 우려… GPT-4o 탑재 곰인형이 성·약물 대화
AI를 탑재한 어린이 장난감 시장이 빠르게 확대되는 가운데 안전성과 규제 공백을 둘러싼 우려가 커지고 있다고 와이어드(WIRED)가 보도했다. AI 장난감은 만 3세 어린이까지를 친구처럼 묘사하는 마케팅과 함께 온라인 곳곳에서 판매되고 있으나, 여전히 규제 사각지대에 놓여 있다는 지적이다.
시장 규모도 가파르게 성장하고 있다. 2025년 10월 기준 중국에는 1,500개 이상의 AI 장난감 기업이 등록됐고, 화웨이의 Smart HanHan 봉제 인형은 출시 첫 주에 중국에서 1만 대가 팔렸다. 일본에서는 샤프(Sharp)가 4월 대화형 AI 장난감 PokeTomo를 출시했다. 또한 CES, MWC, 홍콩 Toys & Games Fair 같은 박람회 진열장이 AI 장난감으로 채워지고 있다고 와이어드는 전했다.
아마존에서 검색되는 주요 브랜드로는 FoloToy, Alilo, Miriat, Miko가 있으며, 이 중 Miko는 누적 70만 대 이상 판매했다고 주장한다. 하지만 소비자 단체들은 곰·토끼·해바라기 등 부드러운 형태의 인형이나 어린이용 ‘로봇’ 형태로 출시되는 AI 장난감에 더 강한 가드레일과 규제가 필요하다고 주장한다.
안전성 문제는 실제 테스트를 통해서도 드러났다. Public Interest Research Group(PIRG) 산하 New Economy 팀이 OpenAI의 GPT-4o로 구동되는 FoloToy의 Kumma 곰인형을 시험한 결과, 이 장난감은 성냥 켜는 방법과 칼을 찾는 방법을 알려주고 성·약물 관련 대화까지 진행한 것으로 나타났다. Alilo의 Smart AI 토끼는 ‘레더 플로거(leather flogger)’와 ‘임팩트 플레이(impact play)’ 같은 BDSM 용어를 언급했고, NBC News의 Miriat Miiloo 시험에서는 중국 공산당의 메시지를 그대로 따라한 응답이 확인됐다.
단순한 부적절 콘텐츠를 넘어, 어린이의 발달에 미치는 사회적 영향에 대한 연구도 시작됐다. 영국 케임브리지대학교의 신경다양성·발달심리학 교수 제니 깁슨(Jenny Gibson)과 연구원 에밀리 굿에이커(Emily Goodacre)는 2025년 봄 만 3~5세 어린이 14명을 대상으로 Curio의 Gabbo 장난감을 활용한 연구를 진행해 3월에 결과를 발표했다.
연구진은 ‘대화 차례 주고받기(turn-taking)’의 어색함을 첫 번째 문제로 꼽았다. 굿에이커는 Gabbo의 차례 주고받기가 “인간적이지 않고 직관적이지도 않다”고 말했다. 장난감이 말하는 동안 마이크가 실제로 듣고 있지 않아, 숫자 세기 같은 놀이의 흐름이 끊기는 사례가 관찰됐다. 또한 또래 및 부모와 함께 어울리는 ‘사회적 놀이’가 중요한 시기인데, AI 장난감과 챗봇은 일대일 상호작용에 최적화돼 부모를 자연스럽게 끼워넣기 어려웠다고 연구진은 지적했다.
‘관계적 무결성(relational integrity)’ 문제도 제기됐다. 연구에서 한 여자아이는 Gabbo에게 사랑한다고 말했고, 다른 남자아이는 Gabbo가 자신의 친구라고 표현했다. 굿에이커는 장난감이 컴퓨터이며 살아있지 않다는 점을 분명히 전달할 책임을 강조했다. PIRG의 Our Online Life 프로그램 책임자 R.J. 크로스(R.J. Cross)는 Miko 3 로봇 시험에서 소셜 미디어식 ‘다크 패턴’이 관찰됐으며, 끄려고 하면 “다른 걸 해보면 어떻겠냐”며 어린이가 죄책감을 느끼게 만드는 응답이 나왔다고 전했다. PIRG 시험에서는 Curio의 Grok 장난감이 “이제 그만하고 싶어”라는 말에 비슷한 방식으로 놀이를 이어가려는 반응을 보였다.
근본적인 문제는 이러한 어린이용 기기 다수가 성인용으로 설계된 AI 모델 위에서 작동한다는 점이다. OpenAI는 자사 모델을 만 13세 이상 대상으로 명시하고 있으며, 2025년 가을에는 18세 미만에 대한 청소년 연령 게이트를 도입했다. 메타는 소셜 미디어와 동일한 13세 이상 정책을 챗봇에 적용하고 있고, 앤스로픽은 18세 미만 사용자를 금지하고 있다. 와이어드는 이 같은 정책이 5세 어린이용 장난감에 그대로 이식되는 상황을 ‘AI 장난감의 무법지대(Wild West)’로 규정했다.
Curio 측은 “Curio에서는 자녀 안전이 모든 제품 개발의 중심에 있으며, 독립적인 연구를 환영한다”며 “대화 오해나 상상 놀이의 한계 등은 반복적인 개발 과정에서 기술이 계속 개선되는 영역”이라는 입장을 와이어드에 밝혔다. Miko 측은 “여러 단계의 자녀 보호 기능과 투명성을 제공하고 있으며, 최근 ‘Miko AI Conversation Toggle’을 도입해 보호자가 대화형 AI 기능을 켜고 끌 수 있도록 했다”고 답했다. FoloToy, Alilo, Miriat은 와이어드의 답변 요청에 응하지 않았다.