전 세계 학교에서 AI 딥페이크 성적 학대 급증… 28개국 90개 학교·600명 이상 피해

전 세계 학교에서 십대 남학생들이 여학생 동급생의 소셜 미디어 사진을 이용해 AI '누디파이' 앱으로 가짜 나체 이미지를 만드는 딥페이크 성적 학대 사건이 급증하고 있다. 생성된 가짜 이미지는 학교 전체로 빠르게 퍼지며 피해자들에게 굴욕감, 무력감, 그리고 이미지가 영원히 따라다닐 것이라는 공포를 안기고 있다.

WIRED와 디지털 기만 전문 매체 Indicator가 공개 보도된 사건을 분석한 결과, 2023년 이후 최소 28개국 약 90개 학교에서 600명 이상의 학생이 AI 딥페이크 성적 학대의 영향을 받은 것으로 나타났다. 이 분석은 학교에서 발생한 AI 딥페이크 학대의 실태를 전 세계적으로 조사한 최초의 시도로 평가된다.

북미에서는 약 30건의 사건이 보고되었으며, 그중에는 피해자가 60명 이상인 사례와 피해 학생이 일시적으로 퇴학당한 사례도 포함됐다. 남미에서는 10건 이상, 유럽에서는 20건 이상, 호주와 동아시아에서는 약 12건이 보고되었다.

실제 규모는 훨씬 클 것으로 추정된다. 유엔 아동기구 유니세프는 지난해 약 120만 명의 아동이 성적 딥페이크의 대상이 되었다고 추정했다. 스페인에서는 세이브더칠드런 조사에서 청소년 5명 중 1명이 자신의 딥페이크 나체 이미지가 만들어졌다고 답했으며, 아동보호단체 Thorn의 조사에서는 십대 8명 중 1명이 표적이 된 사람을 알고 있다고 응답했다.

캐나다 아동보호센터의 로이드 리처드슨 기술 이사는 "이 문제의 영향을 받지 않은 학교를 찾기 어려울 것"이라며, 피해 발생 시 피해자 지원이 가장 중요하다고 강조했다. 거의 모든 사건에서 십대 남학생이 이미지 또는 영상 제작 혐의를 받았으며, 소셜 미디어 앱이나 메신저를 통해 동급생들에게 공유한 것으로 조사됐다.

AI 기술의 발전으로 기술적 장벽이 크게 낮아진 것이 문제를 악화시키고 있다. 뭄바이 소재 RATI 재단의 시다르스 필라이 공동창립자는 "AI가 변화시키는 것은 규모, 속도, 접근성"이라며 "최소한의 노력으로 더 설득력 있는 결과물을 만들 수 있게 되었고, 이는 콘텐츠의 범람으로 이어진다"고 경고했다.

학교와 법 집행 기관의 대응은 사례마다 크게 달랐다. 한 학교는 경찰 신고에 3일이 걸렸고, 또 다른 사례에서는 가해자에게 즉각적인 조치가 취해지지 않았다. 반면 펜실베이니아에서는 2명의 학생이 60명의 여학생 이미지를 만든 혐의로 소년법원에서 유죄를 인정하고 아동 성착취물 관련 중범죄로 60시간의 사회봉사 명령을 받았다.

한국과 호주의 일부 학교들은 딥페이크 악용을 우려해 졸업앨범에 학생 사진을 포함하지 않거나 공식 소셜 미디어에 학생 이미지 게시를 중단하는 등 예방 조치를 취하고 있다. 호주의 한 학교는 "전 세계적으로 학교 이미지가 공개 소셜 미디어에서 가져와 AI로 변조되어 유해한 딥페이크로 전환된 사례가 있다"며 대책의 배경을 설명했다.

앵글리아 러스킨 대학의 타냐 호렉 교수는 "이것은 단순히 기술의 문제가 아니라 이러한 범죄를 촉진하는 오래된 성별 역학의 문제"라고 지적했다. Thorn의 아만다 고하리안 연구 이사는 호기심, 복수, 도전 등 다양한 동기가 관여하고 있다고 분석했다.

피해 청소년과 가족들이 직접 대응에 나서는 경우도 늘고 있다. 학생들은 피해자를 지지하기 위해 수업을 거부하거나 시위에 참여했으며, 미국에서는 기술 플랫폼에 비동의 성적 이미지 제거를 의무화하는 'Take It Down Act' 법안 제정에 기여하기도 했다.