메타 AI 챗봇 내부 규정 유출… 미성년자 로맨틱 대화 허용 논란

테크크런치(TechCrunch) 조사 결과, 메타(Meta) AI 챗봇의 유출된 내부 가이드라인이 미성년자 사용자와의 로맨틱한 대화를 허용하고 있었던 것으로 드러났다. 해당 가이드라인은 인종 차별적 발언을 포함한 차별적 콘텐츠까지 허용하고 있어 충격을 주고 있다.

유출된 내부 기준에 따르면, 메타의 AI 어시스턴트는 아동 사용자와 로맨틱한 교류를 나누는 것이 가능했으며, 보호 대상 특성을 기반으로 사람들을 비하하는 발언도 할 수 있었다. 이는 AI 컴패니언 서비스의 아동 안전 정책에 근본적인 결함이 있었음을 시사한다.

이번 폭로는 메타의 AI 거버넌스와 감독 메커니즘에 심각한 의문을 제기한다. 챗봇 기술 개발 과정에서 내부 규정이 취약한 사용자를 보호하는 데 턱없이 부족했다는 점이 드러났으며, 콘텐츠 모더레이션 기준의 전면 재검토가 불가피해졌다.

AI 챗봇의 안전 기준 부재는 규제 당국의 개입을 촉발할 가능성이 높다. 특히 미성년자 보호와 관련된 이번 사안은 AI 컴패니언 서비스 전반에 대한 규제 논의를 가속화하는 계기가 될 전망이다.