스위스 재무장관, Grok 챗봇 여성비하 "로스트"에 형사 고소… X 플랫폼 책임도 추궁

스위스 재무장관 카린 켈러-주터(Karin Keller-Sutter)가 지난달 X 플랫폼의 AI 챗봇 Grok이 생성한 여성비하 콘텐츠에 대해 형사 고소를 제기했다. 한 익명의 X 사용자가 Grok에게 재무장관을 "로스트(roast)"해달라고 요청한 뒤 생성된 게시물이 문제가 됐다.

블룸버그에 따르면, 켈러-주터의 고소장은 해당 X 사용자를 명예훼손 및 언어폭력 혐의로 처벌해달라는 내용을 담고 있다. 또한 검찰에 Grok의 여성혐오적이고 저속한 출력물을 차단하지 못한 X 플랫폼의 책임 여부도 함께 판단해달라고 요청했다.

스위스 재무부는 해당 Grok 출력물을 "여성에 대한 노골적 비하"라고 규정하며, "이러한 여성혐오가 정상적이거나 용인 가능한 것으로 여겨져서는 안 된다"고 강조했다. X와 Grok 개발사 xAI는 Ars Technica의 논평 요청에 즉각 응답하지 않았다.

xAI 창업자 일론 머스크는 챗봇 출시 이후 X 사용자들에게 Grok을 활용한 로스트 생성을 적극 장려해왔다. xAI 대변인은 최근 폭스뉴스와의 인터뷰에서 Grok이 시장에서 유일한 "비(非) 워크(non-woke)" 챗봇이라고 자평한 바 있다.

로이터 통신에 따르면, 스위스 법은 모욕적 자료를 고의로 게시한 자에게 최대 징역 3년 또는 벌금을 부과할 수 있다. 타인의 명예를 실추시키는 모욕 행위에도 벌금이 부과될 수 있으나, 해당 내용이 철회되면 처벌 위험은 줄어든다.

문제의 익명 사용자는 Grok이 해당 응답을 생성한 지 2일 이내에 자신의 프롬프트를 삭제했다고 로이터는 보도했다. 이 사용자는 해당 게시물에 악의가 없었으며, 스위스 관리를 Grok이 로스트할 수 있는지 확인하기 위한 "기술적 실험"이었다고 주장했다.

켈러-주터의 소송은 여성혐오에 맞서고 스위스 연방평의회의 명예를 지키겠다는 의지의 표현으로, 이 과정에서 익명 사용자의 신원이 공개될 수도 있다. 스위스 한 언론과의 인터뷰에서 형법 교수 모니카 짐러(Monika Simmler)는 "게시물이 사후 삭제되었더라도 이러한 프롬프트 작성자를 기소할 가능성이 충분하다"고 분석했다.

X 입장에서는 이번 사건의 책임이 전적으로 사용자에게 돌아가기를 바랄 수 있다. 앞서 X는 Grok이 비동의 성적 이미지나 아동 성 착취물(CSAM)을 생성하도록 프롬프트한 사용자에 대해서도 같은 입장을 밝힌 바 있다.

이번 소송은 AI 챗봇이 생성한 유해 콘텐츠에 대해 사용자, AI 개발사, 플랫폼 중 누가 법적 책임을 져야 하는지를 둘러싼 국제적 논쟁에 중요한 선례가 될 전망이다. 스위스 검찰의 판단이 향후 AI 생성 콘텐츠 규제의 방향을 가늠하는 시금석이 될 수 있다.