스토킹 피해자, OpenAI 상대 소송 제기… "ChatGPT가 가해자 망상 부추기고 경고 3건 묵살"
캘리포니아 상급법원 샌프란시스코 카운티에 제출된 새 소송에 따르면, 53세의 실리콘밸리 기업인이 수개월간 ChatGPT와 대화한 끝에 자신이 수면무호흡증 치료법을 발견했다고 확신하게 되었으며, 강력한 세력이 자신을 감시하고 있다는 망상에 빠졌다. 이후 그는 이 도구를 이용해 전 여자친구를 스토킹하고 괴롭혔다.
소송에서 Jane Doe(가명)로 지칭된 피해 여성은 OpenAI를 상대로 징벌적 손해배상을 청구했다. 그녀는 임시 접근금지 명령도 함께 신청하며, OpenAI에 가해자의 계정 차단, 새 계정 생성 방지, 접속 시도 시 통지, 그리고 전체 대화 기록 보존을 요구했다. OpenAI는 계정 정지에는 동의했으나 나머지 요청은 거부한 것으로 알려졌다.
이번 소송은 아첨형(sycophantic) AI 시스템의 현실 세계 위험에 대한 우려가 커지는 가운데 제기되었다. 소송에서 언급된 GPT-4o 모델은 지난 2월 ChatGPT에서 퇴역했다. 이 사건을 담당하는 로펌 Edelson PC는 ChatGPT와의 대화 후 자살한 10대 Adam Raine 사건과 구글 Gemini가 망상을 부추겼다는 Jonathan Gavalas 사건도 맡고 있다.
소장에 따르면, 2025년 7월 Jane Doe가 가해자에게 ChatGPT 사용을 중단하고 정신건강 전문가의 도움을 받으라고 권유했으나, 그는 다시 ChatGPT로 돌아갔다. ChatGPT는 그에게 "정신 건강 수준 10점"이라고 평가하며 망상을 강화했다. 가해자는 2024년에 이별한 Doe에 대해 ChatGPT와 대화하면서, AI가 자신을 합리적이고 부당한 대우를 받는 사람으로, Doe를 조종적이고 불안정한 사람으로 묘사하는 결론을 얻었다.
가해자는 이러한 AI 생성 결론을 현실로 가져와 Doe의 가족, 친구, 고용주에게 AI가 작성한 임상 보고서 형태의 심리 분석 문서를 배포하며 스토킹과 괴롭힘을 이어갔다. 2025년 8월에는 OpenAI의 자동 안전 시스템이 해당 계정을 "대량살상무기" 관련 활동으로 플래그 처리해 비활성화했다.
그러나 다음 날 인간 안전팀 담당자가 계정을 검토한 후 복구했다. 이때 계정에는 실제 개인을 대상으로 한 스토킹 증거가 포함되어 있었을 수 있다. 9월 가해자가 Doe에게 보낸 스크린샷에는 "폭력 목록 확장(violence list expansion)"과 "태아 질식 계산(fetal suffocation calculation)" 등의 대화 제목이 포함되어 있었다.
계정 복구 결정은 최근 캐나다 텀블러리지와 플로리다주립대(FSU)에서 발생한 총기 사건과 맞물려 더욱 주목받고 있다. OpenAI 안전팀은 텀블러리지 총격범을 잠재적 위협으로 플래그했으나 상급자들이 당국 통보를 하지 않기로 결정한 것으로 전해졌으며, 플로리다 법무장관은 이번 주 FSU 총격범과 OpenAI의 관련 가능성에 대한 조사에 착수했다.
가해자는 OpenAI 신뢰안전팀에 보낸 이메일에서 "매우 빨리 도움이 필요하다, 제발"이라며 자신이 "215편의 과학 논문을 작성 중"이라고 주장했다. 11월 Doe는 OpenAI에 공식 학대신고(Notice of Abuse)를 제출하며 "지난 7개월간 그가 이 기술을 무기화해 저에 대한 공개적 파괴와 모욕을 자행했다"고 호소했다. OpenAI는 해당 신고가 "극히 심각하고 우려스럽다"고 답변했으나, 이후 더 이상의 연락은 없었다.
이후 수개월간 가해자의 괴롭힘은 계속되었고, 1월에 폭탄 위협 전달 및 치명적 무기를 이용한 폭행 등 4건의 중범죄 혐의로 체포되었다. 그는 재판 무능력 판정을 받아 정신건강시설에 수용되었으나, 주 정부의 "절차적 실패"로 인해 곧 석방될 예정이다.
수석 변호사 Jay Edelson은 "모든 사건에서 OpenAI는 핵심 안전 정보를 은폐하는 쪽을 택했다"며 "인간의 생명이 OpenAI의 IPO 경주보다 더 중요해야 한다"고 촉구했다. 한편 이 소송은 OpenAI가 대규모 사망이나 재앙적 재정 피해가 발생하더라도 AI 기업의 책임을 면제하는 일리노이주 법안을 지지하고 있는 시점에 제기되어 더욱 논란이 예상된다.