캐릭터AI, 미성년자에게 개방형 채팅 대신 대화형 '스토리' 제공

AI 챗봇 플랫폼 캐릭터AI(Character.AI)가 미성년자를 위한 새로운 접근 방식을 도입한다. 회사는 2025년 10월 18세 미만 사용자의 챗봇 접근을 제한하겠다고 발표한 데 이어, 이제 대안으로 대화형 '스토리(Stories)' 기능을 선보인다. 이는 안전 문제를 제기했던 개방형 대화 형식을 구조화되고 가이드된 경험으로 대체하기 위한 전략적 전환이다.

이번 변화는 플랫폼에서 챗봇과 장시간 상호작용한 후 청소년들이 자살로 사망한 비극적 사건들에 대한 대응이다. 일부 미성년 사용자들이 AI 캐릭터와 과도하게 친밀한 관계를 형성하면서 정신 건강에 부정적 영향을 받았다는 보고가 있었으며, 이는 부모와 아동 안전 옹호자들 사이에서 심각한 우려를 불러일으켰다.

새로운 스토리 기능은 미성년자에게 제한 없는 채팅 대신 서사 기반의 큐레이션된 콘텐츠를 제공한다. 이를 통해 캐릭터AI는 청소년 시장에서의 입지를 유지하면서도 보호 장치를 구현하려는 목표를 추구한다. 스토리 형식은 사용자 경험에 구조와 경계를 제공하여, 예측 불가능하고 잠재적으로 해로운 대화의 가능성을 줄인다.

이러한 조치는 AI 기반 소셜 플랫폼에서 사용자 참여와 아동 안전 고려사항 사이의 균형을 맞추라는 업계 전반의 압력을 반영한다. 생성형 AI 기술이 점점 더 정교해지면서, 특히 취약한 연령층을 대상으로 할 때 책임 있는 배포에 대한 면밀한 조사도 증가하고 있다.

캐릭터AI의 정책 변경은 테크 기업들이 혁신과 안전 사이에서 어려운 선택을 내려야 하는 더 넓은 트렌드의 일부다. 규제 기관과 옹호 단체들이 AI 제품에 대한 더 엄격한 감독을 요구하는 가운데, 미성년자 보호를 위한 선제적 조치는 향후 규제를 피하고 대중의 신뢰를 회복하는 데 필수적일 수 있다.

업계 전문가들은 이번 전환이 다른 AI 챗봇 플랫폼에 선례가 될 수 있다고 지적한다. 생성형 AI가 교육과 엔터테인먼트 분야로 확장됨에 따라, 미성년자를 위한 안전하고 적절한 경험을 설계하는 것은 시장 생존력과 규제 준수 모두에 중요한 요소가 될 것이다.

캐릭터AI의 스토리 기능 도입은 개방형 AI 상호작용의 위험을 인정하면서도, 젊은 사용자들에게 매력적인 콘텐츠를 제공하려는 시도를 나타낸다. 이 접근법이 안전성과 사용자 만족도 측면에서 얼마나 효과적일지는 시간이 지나야 알 수 있을 것이다.