애플, Grok 앱 딥페이크 성적 이미지 문제로 앱스토어 퇴출 경고… 결국 삭제는 하지 않아

애플이 올해 1월 일론 머스크의 AI 앱 Grok에 대해 비공개로 앱스토어 퇴출을 경고한 것으로 알려졌다. NBC 뉴스 보도에 따르면, Grok이 비동의 성적 딥페이크 이미지 생성을 제대로 차단하지 못하면서 X 플랫폼에 해당 콘텐츠가 범람한 것이 원인이었다.

NBC 뉴스가 입수한 서한에서 애플은 미 상원의원들에게 "불만 접수와 뉴스 보도를 확인한 후 X와 Grok 개발팀에 연락했다"고 밝혔다. 애플은 개발사에 "콘텐츠 모더레이션 개선 계획을 수립하라"고 요구했다.

당시 xAI의 챗봇 Grok은 X에서 무료로 접근 가능했으며, 허술한 안전장치로 인해 사용자들이 실존 인물의 성적 딥페이크 이미지와 이른바 언드레스 이미지를 쉽게 생성하고 공유할 수 있었다. 피해자 중에는 여성이 압도적으로 많았으며, 일부는 미성년자로 추정됐다.

이는 애플이 평소 엄격하게 적용해온 앱스토어 가이드라인의 명백한 위반 사항이었다. 그러나 X와 Grok 앱을 통해 수익을 얻는 애플은 이 문제에 대해 공개적으로 발언하지 않았다. 구글 역시 구글 플레이 앱스토어를 통해 유사하게 수익을 올리면서도 공개 논평을 하지 않았다.

애플은 X와 Grok의 변경 제안을 검토한 결과, X가 "위반 사항을 실질적으로 해결했다"고 판단한 반면, Grok은 "여전히 규정을 준수하지 못하고 있다"고 결론 내렸다. 애플은 Grok 개발사에 "추가 변경이 이뤄지지 않으면 앱이 앱스토어에서 삭제될 수 있다"고 경고했다.

이후 추가적인 조율 과정을 거친 뒤에야 애플은 Grok이 "실질적으로 개선됐다"고 판단하고 앱 업데이트를 승인했다. 그러나 이 비공개 협의 과정 내내 Grok과 X 앱은 앱스토어에서 계속 제공됐다.

이 기간 동안 시행된 조치에는 Grok을 X 유료 구독자로 제한하거나 여성 이미지 수정을 차단하려는 시도가 포함됐으나, 이러한 조치들은 도구 접근을 약간 어렵게 만드는 것 이상으로 효과적이지 않은 것으로 보도됐다.

애플의 승인과 xAI의 안전장치 강화 주장에도 불구하고, Grok은 여전히 비교적 쉽게 성적 딥페이크를 생성할 수 있는 것으로 나타났다. 사이버보안 전문가들은 유명인과 정치인의 노출 이미지를 생성할 수 있었다고 밝혔으며, NBC도 유사한 결과를 확인했다.