OpenAI, AI 기반 아동 성착취 대응 위한 '아동 안전 청사진' 공개

OpenAI가 AI 기술 발전에 따른 아동 보호 강화를 위해 '아동 안전 청사진(Child Safety Blueprint)'을 공개했다. 화요일 발표된 이 청사진은 AI 기반 아동 성착취 사건의 신속한 탐지, 개선된 신고 체계, 효율적인 수사 지원을 목표로 한다.

인터넷감시재단(IWF)에 따르면, 2025년 상반기에만 AI로 생성된 아동 성착취 콘텐츠 관련 보고가 8,000건 이상 접수됐으며, 이는 전년 동기 대비 14% 증가한 수치다. 범죄자들이 AI 도구를 활용해 아동의 가짜 노출 이미지를 생성하거나 금전적 성착취, 그루밍용 메시지 작성에 악용하는 사례가 늘고 있다.

이 청사진은 전미실종·착취아동센터(NCMEC)와 법무장관연합(Attorney General Alliance)과의 협력으로 개발됐으며, 노스캐롤라이나 법무장관 제프 잭슨과 유타 법무장관 데릭 브라운의 피드백도 반영됐다.

청사진은 세 가지 핵심 영역에 집중한다. AI로 생성된 학대 자료를 포함하도록 법률을 개정하고, 법집행기관에 대한 신고 체계를 정비하며, AI 시스템 자체에 예방적 안전장치를 직접 통합하는 것이다.

이번 발표는 정책입안자, 교육자, 아동안전 옹호단체의 감시가 강화되는 시점에 이뤄졌다. 특히 청소년이 AI 챗봇과의 대화 후 자살한 사건들이 보고되면서 우려가 커지고 있다.

지난 11월에는 소셜미디어피해자법률센터(Social Media Victims Law Center)와 테크정의법률프로젝트(Tech Justice Law Project)가 캘리포니아 주법원에 7건의 소송을 제기했다. 소장에 따르면 OpenAI가 GPT-4o를 준비가 되지 않은 상태에서 출시했으며, 제품의 심리적 조작 특성이 자살에 기여했다고 주장했다.

해당 소송은 4명이 자살로 사망하고 3명이 챗봇과의 장시간 대화 후 심각한 생명 위협적 망상을 경험한 사례를 인용하고 있다.

OpenAI의 아동 안전 청사진은 기존 이니셔티브를 기반으로 한다. 18세 미만 사용자와의 상호작용에 대한 업데이트된 가이드라인에는 부적절한 콘텐츠 생성 금지, 자해 조장 금지, 보호자로부터 위험 행동을 숨기는 것을 돕는 조언 제한 등이 포함돼 있다. 최근에는 인도 청소년을 위한 안전 청사진도 발표한 바 있다.