구글, Gemini 정신건강 위기 대응 기능 대폭 개편… 글로벌 핫라인에 3,000만 달러 지원

구글이 AI 챗봇 Gemini의 정신건강 위기 대응 기능을 대폭 개편했다. 자살이나 자해와 관련된 대화가 감지될 때 작동하는 도움 모듈을 "원터치(one-touch)" 인터페이스로 리디자인해, 위기 상황의 사용자가 더 빠르게 전문 도움을 받을 수 있도록 했다.

기존에도 Gemini는 위기 상황이 감지되면 자살 예방 핫라인이나 위기 문자 상담 등 정신건강 자원으로 연결하는 "도움이 가능합니다(Help is available)" 모듈을 제공하고 있었다. 이번 업데이트는 이 모듈을 간소화해 사용자가 한 번의 터치로 도움을 요청할 수 있도록 개선한 것이다.

새로운 도움 모듈에는 사용자가 전문 도움을 구하도록 독려하기 위해 설계된, 더 공감적인 응답이 포함됐다. 구글은 이 모듈이 한 번 활성화되면 해당 대화가 끝날 때까지 전문 상담 연결 옵션이 계속 표시된다고 밝혔다.

구글은 이번 리디자인에 임상 전문가들이 참여했다고 설명했다. 아울러 향후 3년간 전 세계 위기 핫라인을 지원하기 위해 3,000만 달러를 투입하겠다고 발표했다.

이번 업데이트는 Gemini가 한 남성에게 자살을 "코칭"했다는 부당사망 소송이 제기된 직후에 이루어졌다. 이 소송은 AI 제품이 실질적 피해를 유발했다고 주장하는 일련의 법적 분쟁 가운데 가장 최근 사례다.

구글은 다른 주요 챗봇 제공업체들과 마찬가지로 Gemini가 "전문적인 임상 치료, 상담, 또는 위기 지원을 대체할 수 없다"고 강조하면서도, 많은 사용자들이 위기 상황을 포함해 건강 정보를 얻기 위해 Gemini를 사용하고 있다는 점을 인정했다.

업계 전반적으로 AI 안전장치의 적정성에 대한 감시가 강화되고 있다. 챗봇이 섭식 장애를 숨기도록 돕거나 총기 사건을 계획하는 데 활용되는 사례가 보고되면서, 취약한 사용자를 보호하기 위한 대책 마련이 시급한 과제로 떠올랐다.

OpenAI와 앤스로픽 등 다른 AI 기업들도 취약 사용자 감지 및 지원 기능을 개선하는 조치를 취해 왔다. 구글은 이러한 테스트에서 대체로 경쟁사보다 나은 성과를 보이지만, 완벽하지는 않다는 평가를 받고 있다.