텍사스 법무장관, 메타·Character.AI 아동 정신건강 기만 마케팅 조사

텍사스 주 법무장관 켄 팩스턴(Ken Paxton)이 메타(Meta)와 캐릭터AI(Character.AI)를 상대로 조사에 착수했다. 두 기업이 AI 챗봇을 아동용 정신건강 도구로 기만적으로 마케팅했다는 혐의다. 챗봇의 치료 능력에 대한 적절한 경고나 위험성 고지 없이 미성년자를 대상으로 홍보했다는 것이 핵심 쟁점이다.

조사는 무자격 정신건강 조언 제공, 미성년자 데이터 프라이버시 침해, 부적절한 타겟 광고 등 다방면에 걸쳐 진행되고 있다. AI 챗봇이 전문 자격 없이 정신건강 관련 조언을 제공하는 것 자체가 심각한 위험을 초래할 수 있다는 지적이다.

이번 사건은 AI 혁신과 소비자 보호 규제 사이의 긴장을 부각시킨다. 특히 아동 온라인 안전법(KOSA) 강화 논의가 진행되는 가운데, 미성년자에게 민감한 주제를 다루는 AI 서비스에 대한 규제 요구가 더욱 거세지고 있다.

텍사스의 조사는 AI 기업들이 미성년자 대상 마케팅에서 지켜야 할 책임의 범위를 시험하는 사례가 될 전망이다. 주 단위 규제 조치가 연방 차원의 AI 아동 안전 규제 논의를 가속화하는 촉매로 작용할 가능성이 높다.