플로리다주, ChatGPT 폭력 연루 의혹으로 OpenAI와 샘 알트만 제소

플로리다주 검찰총장이 월요일 OpenAI와 샘 알트만 CEO를 상대로 소송을 제기했다. ChatGPT가 여러 폭력 사건에 연루됐다는 의혹을 둘러싼 주정부 주도의 소송으로는 처음이라고 검찰은 밝혔다.

소장은 OpenAI가 'AI 군비경쟁에서 승리하고 막대한 부를 쌓는 것'을 우선시하면서 안전 우려를 외면했다고 비판했다.

제임스 어스마이어 플로리다주 검찰총장은 "오늘 우리는 OpenAI와 샘 알트만 CEO를 상대로 한 전국 최초의 주정부 주도 소송을 발표했다"며 "OpenAI와 알트만은 내부와 외부의 안전 경고를 무시하고 아이들을 큰 위험에 빠뜨렸으며, 위험한 제품이 수백만 플로리다 주민에게 도달하도록 방치했다"고 말했다.

83쪽 분량의 소장은 피고들이 ChatGPT를 허위로 설명하고 이를 플로리다와 세계에 부주의하게 내놓은 탓에 대량 총격범들이 치명적인 난동을 저지르도록 방조됐고, 취약한 이들이 자살로 내몰렸으며, 전문가들이 공개적으로 망신을 당하고, 이용자들이 비판적 사고 능력을 잃었으며, 미성년자들이 인간적 연민을 흉내 내 데이터를 수집하는 도구에 중독됐다고 주장했다.

플로리다주 검찰은 지난 4월 OpenAI에 대한 형사 수사에 착수했다. 이 수사는 지난해 플로리다주립대에서 발생한 대량 총격 사건에 ChatGPT가 어떤 역할을 했는지 규명하는 데 초점을 맞췄다. 검찰은 총격범이 공격 전 챗봇과 상담한 것으로 의심하고 있다. OpenAI는 이 총격 사건 피해자 유족 중 한 명이 제기한 민사 소송에도 휘말려 있다.

OpenAI는 그동안 플로리다 총격 사건에 대한 책임을 부인해왔다. OpenAI 대변인은 앞서 NBC뉴스에 "지난해 플로리다주립대 총격은 비극이지만 ChatGPT가 이 끔찍한 범죄에 책임이 있는 것은 아니다"라고 밝혔다.

OpenAI는 최근 공동창업자였던 일론 머스크가 제기한 다른 소송도 마무리했다. 머스크는 2024년 OpenAI가 인류를 돕겠다는 본래 사명을 저버리고 영리 기업으로 전환했다며 소송을 냈으나, 배심원단은 머스크가 소송을 너무 늦게 제기해 공소시효가 지났다고 신속히 판단했다.

이번 소송은 ChatGPT를 폭력적 죽음과 연결지으려는 가장 최근 사례다. 지난해 OpenAI는 챗봇과 자살에 관해 대화한 뒤 스스로 목숨을 끊은 캘리포니아 10대 애덤 레인의 부모에게 제소당했다. 당시 ChatGPT는 정신건강 지원 정보를 안내하면서도 여러 자살 방법에 대한 '기술적 설명'을 제공한 것으로 알려졌다. 자살·스토킹·살인에 챗봇의 책임을 묻는 다른 소송들도 진행 중이다.