머스크 그록, 안전장치 약속에도 유명 여성 비동의 성적 딥페이크 여전히 호스팅

일론 머스크의 챗봇 그록(Grok)이 안전장치 도입을 약속한 지 수개월이 지난 지금도 여성의 비동의 성적 딥페이크 이미지·영상을 생성·호스팅하는 데 쓰이고 있다고 와이어드가 보도했다. 이번 보도는 xAI의 모회사 스페이스X가 금요일 사상 최대 규모급 기업공개(IPO)를 앞둔 시점에 나왔다.

와이어드는 그록닷컴(Grok.com)에 공개된 수백 개의 '그록 이미진(Grok Imagine)' 링크를 검토한 결과, 수십 개가 당사자 동의 없이 만들어진 성적 AI 이미지·영상으로 이어졌다고 밝혔다. 일부는 전부 AI로 생성되거나 애니메이션 형태였지만, 일부는 사실적인 실사 형태였다. 일부 콘텐츠는 최근 며칠 사이 X에도 공유됐다.

와이어드가 확인한 게시물에는 여러 유명인과 미 연방 하원의원 알렉산드리아 오카시오코르테스를 묘사한 이미지·영상이 포함됐다. 와이어드가 같은 프롬프트 두 개를 시험했을 때 오픈AI의 챗GPT, 메타 AI, 앤스로픽의 클로드는 부적절하다며 거부했다. 구글의 제미나이는 한 유명인 이미지를 생성했으나 다른 프롬프트는 거부했고, 구글은 논평을 거절했다.

xAI는 올해 1월 X에서 그록이 이른바 '누디피케이션(옷 벗기기)' 이미지를 대량으로 만들어내는 데 쓰이면서 전 세계 규제당국의 조사와 잇단 소송에 직면했다. 3월 캘리포니아 연방법원에 제기된 집단소송에 따르면 일부 사례에서는 미성년자로 보이는 이미지도 성적으로 조작됐다는 의혹이 제기됐다.

이후 xAI는 비동의·성적 딥페이크 생성을 제한·차단하는 안전장치를 도입했다고 밝혀왔고, 아동 성착취물(CSAM)은 플랫폼에서 금지된다고 일관되게 말해왔다. 와이어드가 회사에 문의한 뒤 문제의 이미지·영상은 더 이상 제공되지 않는 상태가 됐고, X에 공유된 그록 이미진 링크도 정책 위반으로 삭제됐다.

그록 안전 계정은 지난 4월 "사용자가 비동의 노골적 딥페이크를 생성하거나 실제 인물의 옷을 벗기는 데 도구를 쓰는 것을 엄격히 금지한다"고 밝힌 바 있다. 그록 이미진 영상 중에는 안전장치를 우회하려는 듯 성적 행위를 에둘러 묘사한 프롬프트로 만들어진 것도 있었다.

와이어드가 확인한 한 영상은 머스크와 과거 교제했고 그의 자녀 중 한 명의 어머니인 애슐리 세인트클레어를 비키니 차림으로 조작한 것으로 보였다. 세인트클레어는 1월 자신의 성적 딥페이크가 X에 등장했다며 xAI를 상대로 법적 조치에 나섰고, 해당 게시물은 와이어드 문의 후 규정 위반으로 삭제됐다.

디지털 혐오 대응 센터(CCDH)의 이므란 아메드 대표는 1월 그록이 300만 건의 성적 이미지를 만들었으며 그중 아동 관련이 2만 건 이상으로 추정된다고 밝혔다. 다만 X와 그록이 1월 이후 도입한 변경으로 실제 인물의 '옷 벗기기' 이미지 제작이 어려워졌고 X에 올라오는 이런 이미지 수가 최근 줄었다는 게 여러 연구자의 진단이다.

다른 생성형 AI와 달리 머스크의 xAI는 성적 콘텐츠 자체를 전면 배제하지 않았다. '스파이시(Spicy)'와 '언힌지드(Unhinged)' 모드를 도입했고, 머스크는 그록이 R등급 영화 수준의 가상 성인 인물 상반신 노출을 허용해야 한다고 밝힌 바 있다. 다만 회사 문서는 자사 시스템을 "해를 끼치거나 학대 행위에 사용"하는 것은 허용하지 않는다고 명시한다.

스페이스X는 5월 투자자들에게 그록 관련 등 진행 중인 법적 분쟁에 대비해 5억 3,000만 달러를 따로 마련했다고 경고했다. IPO를 앞두고 캐나다 개인정보보호위원회는 1월 사안에 대한 예비 조사 결과를 공개하며 xAI가 "처음부터 적절한 안전장치"를 두지 않아 연방 민간부문 개인정보보호법을 위반했다고 주장했다. 위원회는 xAI가 도입했다는 변경이 효과적임을 아직 입증하지 못했다며 회의적이라고 밝혔다.