FBI, AI 딥페이크 음란물 유포 'Take It Down Act' 첫 체포 사례 공개

미국 Take It Down Act(TIDA) 적용 첫 체포가 나오면서, FBI가 비동의 AI 딥페이크 음란물 유포자를 어렵지 않게 특정했다는 점이 드러났다고 Ars Technica가 전했다. 초기 체포 사례를 보면 수사관들이 유포자를 식별하기 위해 과도한 노력을 기울일 필요가 없었다는 평가가 나온다.

지난주 FBI는 포르노 사이트에서 #AI, #Deepfakes 같은 해시태그와 'AI_tits', 'Ass_AI' 류의 영상 제목을 클릭해 들어간 끝에 두 명을 체포했다. AI로 생성한 여성의 비동의 성적 이미지·영상을 온라인에 게시·판매한 혐의다.

TIDA 위반 혐의를 받는 한 용의자는 20세 Arturo Hernandez다. Hernandez는 약 50명의 여성을 다룬 AI 생성 성적 이미지·영상 113개 앨범을 올렸고, 이 콘텐츠는 약 100만 회 조회된 것으로 전해졌다.

피해자에는 정치인, 배우, 음악가 등 공인뿐 아니라 텍사스 고교 시절 동급생과 인스타그램 친구처럼 공인이 아닌 여성도 포함됐다.

지오로케이션 데이터가 Hernandez를 용의자로 좁히는 단서가 됐다. FBI 특별수사관 Christopher Powell이 진술서에 적은 바에 따르면, 수사관들은 Hernandez가 올린 콘텐츠를 그대로 재게시한 두 번째 계정을 발견했고 이 계정은 Hernandez의 PayPal 계정과 연결돼 있었다. 이 계정 로그인에 자주 쓰인 IP는 Apple 기록상 Hernandez가 iCloud 로그인에 쓴 IP와 같았다.

유명인을 합성한 딥페이크는 비교적 쉽게 추적됐고, 수사관들은 Hernandez가 아는 사람을 합성한 콘텐츠의 증거도 모았다. 한 피해자의 인스타그램 계정을 Hernandez가 팔로우했을 뿐 아니라, 36,000회 넘게 본 AI 음란 콘텐츠의 원본 이미지가 Hernandez 본인 인스타그램의 한 폴더에 저장돼 있었던 것으로 확인됐다.

Hernandez는 일부 활동에서 자신을 떼어놓으려 한 정황도 있다. Gmail 계정을 실명 대신 'Ryan'이라는 별명으로 등록한 점이 그 예다. 다만 수사관들은 Hernandez가 Snapchat을 비롯한 다른 온라인 서비스에서도 같은 'Ryan' 별명을 사용했다고 지적했다.