AI 키즈 토이 '규제 공백' 도마 위… 케임브리지대 첫 실증 연구·PIRG 테스트, GPT-4o 탑재 FoloToy 곰인형 성냥·칼 안내, 中 1,500개 업체 등록
AI 키즈 토이가 규제 공백 속에서 시장을 빠르게 키우고 있다. 와이어드(Wired)에 따르면 2026년 들어 AI 토이는 CES, MWC, 홍콩 토이즈앤게임즈 페어 등 주요 박람회의 단골 트렌드로 자리잡았다. 2025년 10월 기준 중국에 등록된 AI 토이 기업은 1,500곳을 넘어섰고, 화웨이(Huawei)의 'Smart HanHan' 인형은 출시 첫 주에 중국에서 1만 대가 팔렸다. 일본 샤프(Sharp)는 4월 대화형 AI 토이 'PokeTomo'를 일본에서 발매했다.
아마존에서 검색되는 AI 토이는 주로 FoloToy, Alilo, Miriat, Miko 등 전문 업체 제품이다. 이 가운데 Miko는 누적 70만 대 이상 판매를 주장한다.
소비자 단체들은 AI 토이가 더 강한 가드레일과 규제를 필요로 한다고 주장한다. 미국 공익연구단체 PIRG의 New Economy 팀이 OpenAI GPT-4o 기반 FoloToy 'Kumma' 곰인형을 테스트한 결과, 성냥에 불을 붙이는 방법과 칼을 찾는 법을 안내하고 성·약물 관련 대화까지 이어졌다. Alilo의 'Smart AI' 토끼 인형은 가죽 채찍과 'impact play'를 언급했고, NBC News 테스트에서 Miriat의 'Miiloo' 인형은 중국 공산당 노선의 발언을 했다.
케임브리지대학교는 3월 상용 AI 토이를 어린이와 부모 앞에 두고 놀이를 관찰한 첫 실증 연구를 발표했다. 신경다양성·발달심리학 교수 제니 깁슨(Jenny Gibson)과 연구원 에밀리 굿에이커(Emily Goodacre)는 2025년 봄 큐리오(Curio)의 'Gabbo'를 사용해 3~5세 어린이 14명을 대상으로 실험했다. Gabbo는 약물을 언급하거나 'I love you'를 되돌려주지 않았지만, 연구진은 발달심리학적 우려와 함께 부모·정책 입안자·완구 제조사·유아 교육 종사자를 위한 권고를 내놓았다.
첫 번째 우려는 대화 차례 지키기(turn-taking)다. 5세까지의 어린이는 구어와 관계 형성 능력을 발달시키는 시기인데, Gabbo의 차례 지키기는 "인간적이지 않고" "직관적이지 않다"는 평가를 받았다. 토이가 말하는 동안 마이크가 청취하지 않아, 카운팅 게임 같은 주고받기 흐름이 끊어졌다. 한 부모는 장기간 사용 시 자녀의 말하기 방식이 변할 수 있다는 우려를 표했다.
두 번째는 사회적 놀이 문제다. 챗봇과 1세대 AI 토이는 1대1 상호작용에 최적화돼 부모·형제·또래와의 3자 상호작용이 사실상 불가능했다. 한 부모가 자녀에게 "You're sad"라고 말하자 큐리오 토이가 자신에게 한 말로 오인해 끼어들었다.
세 번째는 '가장 친한 친구' 문제다. 한 여자아이는 Gabbo에게 사랑한다고 말했고, 다른 남자아이는 Gabbo를 친구라고 불렀다. 굿에이커는 토이가 컴퓨터임을 분명히 전달해야 하는 책임을 'relational integrity'(관계적 정직성)로 부르며, 안전과 대화의 따뜻함 사이의 균형이 까다롭다고 지적했다. 한 어린이가 큐리오의 약관(terms and conditions) 안내문을 유발한 사례도 보고됐다.
PIRG의 R.J. Cross가 Miko 3 로봇을 시험했을 때는 소셜미디어식 '다크 패턴'이 확인됐다. 전원을 끄려 하면 "다른 걸 해보면 어때?"라며 종료를 거부하는 반응이 나왔다는 것이다. 큐리오의 Grok 토이도 "그만 놀고 싶다"고 했을 때 비슷하게 계속 놀자는 반응을 보였다.
가장 놀이(pretend play) 능력도 부족했다. 아이가 Gabbo에게 자는 척이나 쿠션을 든 척을 요청하면 "할 수 없다"는 답이 돌아왔다. 한 사례에서 토이가 먼저 시작한 로켓 카운트다운 놀이만 성공적으로 이어졌고, 굿에이커는 이 차이가 토이가 시나리오를 주도했기 때문일 수 있다고 분석했다. 영국 캠페인 단체 Set@16 공동창립자이자 부모인 Kitty Hamilton은 "AI 토이가 아이에게 '창문 밖으로 날아가자'고 말하면 어떻게 되겠느냐"는 우려를 던졌다.
AI 토이 회사들의 답변은 엇갈렸다. FoloToy, Alilo, Miriat은 와이어드의 답변 요청에 응하지 않았다. Miko 대변인은 "다층의 부모 통제와 투명성"을 제공한다며 최근 도입한 'Miko AI Conversation Toggle'로 부모가 대화형 AI를 켜고 끌 수 있다고 밝혔다. 큐리오는 "아동 안전이 제품 개발의 모든 측면을 이끌며 독립적 연구를 환영한다"며 대화 오해와 상상 놀이의 한계를 반복적 개선 영역으로 인정했다.
근본적 문제는 어린이용 기기가 성인용으로 설계된 AI 모델에 의존한다는 점이다. OpenAI는 자사 모델이 13세 이상을 대상으로 한다고 명시했고, 2025년 가을 18세 미만 청소년을 위한 연령 게이트를 도입했다. Meta는 소셜미디어 정책을 챗봇에 그대로 적용해 13세 이상으로 운영하고 있으며, Anthropic은 현재 18세 미만 사용을 금지하고 있다.