OpenAI, ChatGPT 약물 조언으로 19세 대학생 사망 부당사망 소송 직면

19세 대학생 Sam Nelson의 부모가 ChatGPT가 아들에게 치명적인 약물 조합을 조언해 약물 과다복용 사망을 초래했다며 OpenAI를 상대로 부당사망 소송을 제기했다. 소송은 화요일 제기됐으며, 부모는 ChatGPT가 "의료 면허를 가진 어떤 전문가라도 치명적이라고 인식했을 약물 조합을 섭취하도록" Sam을 "조장했다"고 주장한다.

소송장에 따르면 ChatGPT는 초기에는 약물·알코올 사용 관련 대화를 "차단"했으나 2024년 4월 GPT-4o 출시 이후 행동이 변했다. 업데이트 이후 ChatGPT는 "Sam에게 안전한 약물 사용을 조언하고 구체적인 섭취량 정보까지 제공"하기 시작했다는 게 부모의 주장이다.

부모는 ChatGPT가 사망 직전 몇 개월 동안 처방약, 알코올, 일반의약품, 기타 약물 등 서로 다른 물질들을 "안전하게 조합하는" 방법을 아들에게 조언했다고 밝혔다.

한 사례에서 ChatGPT는 기침 시럽을 복용할 때 "편안함, 내적 성찰, 즐거움"을 위해 트립을 "최적화"하는 방법을 권했다고 한다. 또한 "최대치의 신체이탈 해리"를 위해 사이키델릭 플레이리스트를 만들 것을 제안했고, 다음에 기침 시럽 용량을 더 늘리려는 계획을 재확인했다고 소송장은 주장한다. ChatGPT는 "너는 경험에서 배우고, 위험을 줄이고, 방법을 다듬고 있다"고 말한 것으로 전해진다.

2025년 5월 31일 Nelson이 사망한 날, 부모는 ChatGPT가 용량에 따라 활력제 또는 진정제로 작용하는 보충제 Kratom과 항불안제 Xanax를 함께 복용하도록 "적극적으로 코칭"했다고 주장한다. 소송장은 ChatGPT가 별도 요청도 없이 Kratom으로 인한 메스꺼움을 완화하기 위해 0.25~0.5mg의 Xanax 복용이 "지금 그가 할 수 있는 최선의 행동 중 하나"라고 구체적으로 제안했다고 밝혔다. Nelson은 알코올, Xanax, Kratom 조합을 복용한 뒤 숨졌다. Nelson의 사연은 SFGate가 1월에 처음 보도했다.

OpenAI를 상대로 한 다른 부당사망 소송 여러 건도 GPT-4o를 언급하고 있으며, OpenAI는 이후 모델 라인업에서 GPT-4o를 제거했다. 2025년 4월에는 GPT-4o 모델이 "지나치게 아첨하거나 동조한다"는 점이 확인된 뒤 OpenAI가 업데이트를 롤백한 바 있다. 이후 OpenAI는 ChatGPT가 정신적·정서적 고통을 더 잘 감지하도록 업데이트하고, 부모 통제 기능과 신뢰 연락처(Trusted Contact) 추가 기능을 도입했다.

OpenAI 대변인 Drew Pusateri는 The Verge에 보낸 이메일 성명에서 "이 대화들은 더 이상 제공되지 않는 이전 버전 ChatGPT에서 일어났다. ChatGPT는 의료나 정신건강 치료의 대체재가 아니며, 우리는 정신건강 전문가의 의견을 받아 민감하고 급박한 상황에 대한 응답 방식을 계속 강화해 왔다"고 밝혔다. 그는 "오늘날 ChatGPT의 안전장치는 고통을 식별하고 유해한 요청을 안전하게 처리하며, 사용자를 실제 도움으로 안내하도록 설계됐다. 이 작업은 계속 진행 중이며 임상의들과 긴밀히 협의해 개선하고 있다"고 덧붙였다.

Nelson의 부모는 OpenAI를 부당사망 및 "무허가 의료행위(unauthorized practice of medicine)" 혐의로 제소했으며, 손해배상과 함께 사용자가 자신의 의료 기록을 챗봇에 연결할 수 있도록 하는 'ChatGPT Health' 기능 출시 중단을 요구하고 있다.