xAI, 그록으로 만든 딥페이크 성착취 피해자 4명에 실명 공개 요구
일론 머스크의 AI 기업 xAI가 자사 챗봇 그록(Grok)으로 성적 딥페이크 이미지가 만들어졌다고 주장하는 피해자 4명의 실명을 공개하라고 요구하고 나섰다고 최근 제출된 법원 문서가 밝혔다. 4명 중에는 아동 시절 모습으로 성적 딥페이크가 만들어진 피해자도 포함돼 있다.
연방 집단소송의 주요 원고 4명은 현재 '사우스캐롤라이나 도', '사우스캐롤라이나 로', '뉴저지 도', '오하이오 도'라는 가명으로 식별된다. 이들은 5월 29일 진술서에서 올해 초 딥페이크가 만들어진 뒤 겪은 정신적 고통을 설명하며, 소송에서 실명을 쓰도록 강제되면 추가 온라인 괴롭힘과 신상 털기를 당할까 두렵다고 밝혔다.
원고 측을 대리하는 법무법인 버거 몬태규의 소피아 리오스 변호사는 최근 서면에서 "xAI는 원고들의 옷을 벗긴 데 이어 이제 가명마저 벗겨내려 한다"며 "이는 자신들이 바로잡아야 할 피해를 가중시켜 원고들이 소송을 포기하도록 위협하려는 명백한 시도"라고 적었다.
그록은 지난 1월 전 세계적 공분을 샀다. 다수의 남성이 이 생성형 AI로 여성을 '벗기거나' 비키니 차림으로 묘사한 가짜 이미지를 만들어 X에 올렸고, 여기에는 아동으로 보이는 인물의 성적 이미지도 포함됐다. 디지털 혐오 대응 센터(CCDH)의 분석에 따르면 그록은 단 11일 동안 약 300만 건의 성적 이미지를 만드는 데 쓰였고, 그중 2만 3,000건은 아동이 포함됐을 가능성이 있다.
전 세계적 소송과 규제에 직면한 가운데, 현재 xAI를 소유한 스페이스X는 그 여파에 대응하기 위해 5억 달러 이상을 따로 책정해 두었다.
이 집단소송은 1월 가명 원고 1명으로 처음 제기됐다. 캘리포니아 북부 연방지방법원 판사는 원고가 '제인 도'로 소송에 참여하도록 허가했고, 소송은 5월 초 4명의 가명 원고로 다시 제기되면서 제인 도가 사우스캐롤라이나 도가 됐다. 원고들은 회사에는 자신의 이름과 신상을 알리되, 사생활을 보호하고 이미지와 공개적으로 연관되지 않기 위해 대외적으로는 가명을 쓰고자 했다고 법원 기록은 전한다. 딥페이크 이미지는 어떤 공개 서면에도 포함되지 않았다.
5월 중순 xAI는 가명 사용을 허가한 결정을 뒤집어 달라며 두 건의 신청서를 냈다. 회사 측은 일부 예외가 있긴 하지만 민사소송 법규상 사건은 모든 당사자의 이름을 밝혀야 한다고 주장했다. xAI 변호인단은 회사를 상대로 소송을 건 이들의 신원에 공익적 관심이 있고, 추가 위해나 위협에 대한 구체적 증거가 제시되지 않았으며, 딥페이크 이미지가 소송 과정에서 공개되지 않으므로 사생활 우려가 해소된다고 했다. 이들은 5월 15일 서면에서 "봉인 상태로 남을 딥페이크 이미지 자체를 제외하면, 이미지를 드러내지 않은 채 사우스캐롤라이나 도의 딥페이크가 만들어졌다는 사실을 밝히는 데 본질적으로 낙인을 찍는 요소는 없다"고 적었다. xAI와 회사 대리인은 와이어드의 논평 요청에 응하지 않았다.
버지니아대 로스쿨에서 디지털 학대 문제를 연구해 온 대니엘 시트론 교수는 사람들이 실명으로 소송하도록 명령받는 민사 사건은 소송 포기로 이어질 수 있어 "용납할 수 없고 부당한" 상황을 낳는다고 말했다. 그는 "프라이버시 소송에서 원고에게 실명으로 소송하라고 강제하는 것은 사법 투명성에는 거의 도움이 안 되면서 소송을 단념시키는 데는 큰 영향을 미친다"고 말했다.
5월 29일 서면에 따르면 원고 4명 모두 실명이 공개돼야 한다면 소송에서 빠지는 것을 고려하겠다고 밝혔다. 사우스캐롤라이나 도는 자신이 "노출이 심한 비키니 차림으로 벗겨진" 딥페이크를 온라인에서 발견했다고 설명하며, 고용주나 동료가 그 이미지를 보면 어떻게 생각할지 걱정했고 추가 표적이 될까 두려웠다고 했다. 그는 실명이 공개되면 머스크와 그의 회사, 그록을 지지하는 이들이 공개 기록에서 자신의 이름을 찾아내 유포하고 보복성으로 더 극단적인 딥페이크를 만들까 두렵다고 적었다.
뉴저지 도로 지칭된 한 남성은 X에서 사람들이 그록으로 성적 이미지를 만드는 것을 보고 "동의 없이 내 이미지를 만들지 말라"는 요청을 올렸으나, 다음 날 자신의 딥페이크 이미지 두 개를 발견했다고 한다. 사우스캐롤라이나 로는 그록이 자신의 아동 시절 노골적 이미지를 만드는 데 쓰였다고 주장했다. 법원 서면에 따르면 2월 경찰이 그가 부모와 함께 살던 집을 수색했고, 그는 아버지가 아동 성착취물(CSAM) 소지·유포 관련 혐의를 받고 있다는 사실을 알게 됐다. 그는 자신이 본 적도 없는 이 딥페이크들에 통제권이 없다는 사실에 큰 충격을 받았다고 밝혔다.