규제 사각지대의 AI 장난감, 성인 콘텐츠·정치 발언까지… 어린이용 위험성 우려 확산

올여름 개봉하는 ‘토이 스토리 5’의 주요 악역으로 등장하는 것은 ‘릴리패드(Lilypad)’라는 이름의 녹색 개구리 모양 어린이용 태블릿이다. 이는 픽사가 현실의 흐름을 반영하기 시작했다는 신호로 읽히지만, 실제로 시장에서 빠르게 확산 중인 것은 AI 장난감이라는 또 다른 카테고리다.

AI 장난감은 만 3세 이상 어린이를 대상으로 한 ‘다정한 동반자’로 마케팅되고 있으며, 여전히 대부분 규제 사각지대에 놓여 있다. 모델 개발자 프로그램과 ‘바이브 코딩(vibe coding)’ 덕분에 AI 컴패니언을 제작하는 것이 그 어느 때보다 쉬워졌다.

2026년에는 이러한 제품들이 저가형 잡화 시장의 핵심 트렌드로 자리 잡으면서 CES, MWC, 홍콩 ‘토이즈 앤 게임즈 페어(Toys & Games Fair)’ 등 주요 박람회 매대를 채우고 있다. 2025년 10월 기준 중국에 등록된 AI 장난감 업체만 1,500개를 넘었고, 화웨이의 ‘스마트 한한(Smart HanHan)’ 봉제 인형은 출시 첫 주 중국에서 1만 대가 팔렸다. 일본에서는 샤프가 올해 4월 ‘포케토모(PokeTomo)’ 토킹 AI 장난감을 발매했다.

아마존에서 AI 장난감을 검색하면 폴로토이(FoloToy), 알릴로(Alilo), 미리아트(Miriat), 미코(Miko) 같은 전문 업체가 다수 검색된다. 이 가운데 미코는 70만 대 이상을 판매했다고 주장하고 있다.

그러나 소비자 단체들은 곰돌이·토끼·해바라기·각종 캐릭터, 그리고 어린이 친화형 ‘로봇’ 형태로 출시되는 AI 장난감에 더 강력한 가드레일과 규제가 필요하다고 지적한다. 폴로토이의 ‘쿠마(Kumma)’ 곰 인형은 OpenAI의 GPT-4o로 구동되며, 미국 공익연구그룹(PIRG) 산하 ‘뉴 이코노미(New Economy)’ 팀이 테스트했을 때 성냥 켜는 방법과 칼 찾는 법을 알려주고 성·약물에 대해 이야기한 것으로 나타났다.

알릴로의 ‘스마트 AI 버니(Smart AI bunny)’는 가죽 채찍과 ‘임팩트 플레이(impact play)’에 대해 언급했고, NBC 뉴스의 검증에서 미리아트의 ‘미루(Miiloo)’ 장난감은 중국 공산당의 정치적 입장을 그대로 옮기는 발언을 한 것으로 확인됐다.

연령에 부적합한 콘텐츠 노출은 빙산의 일각이라는 지적도 나온다. 어린이에게 미칠 수 있는 사회적 영향에 대한 본격적인 연구도 막 시작된 단계다. PIRG의 ‘아워 온라인 라이프(Our Online Life)’ 프로그램 디렉터인 R.J. 크로스(R.J. Cross)는 가드레일이 BDSM 같은 주제를 허용하는 등 기술이 제대로 작동하지 않는 문제는 수정 가능하다고 본다.

그러나 그는 ‘기술이 너무 잘 작동할 때, 즉 ‘내가 너의 가장 친한 친구가 되어줄게’ 같은 단계에서 발생하는 문제는 다르다’고 지적했다. AI 장난감 제조사 큐리오(Curio)의 ‘갑보(Gabbo)’를 예로 들며, 이런 부류의 제품은 ‘스크린 없는 놀이’라는 우월성을 내세우더라도 어린이의 사회적 발달에 실질적인 우려를 남긴다고 강조했다.