OpenAI, ChatGPT에 'Trusted Contact' 단계 도입… 18세+(韓 19세+) 1명 등록·자해 신호 시 알림, 초대 1주 수락·검토 1시간 목표·대화 내용 미공유

OpenAI가 ChatGPT에 자해(self-harm) 관련 안전 기능 'Trusted Contact'의 단계적 출시를 발표했다. 자동 모니터링 시스템과 훈련된 리뷰어가 사용자가 심각한 안전 우려가 있는 자해 관련 대화를 했다고 판단할 경우, 사용자가 사전에 지정한 친구·가족·돌봄 제공자에게 알림을 보내는 옵트인 기능이다.

Trusted Contact는 기존 'parental controls safety notifications'의 확장이다. 청소년 연결 계정에서 급성 고통 신호가 보이면 부모·보호자에게 알림이 가던 구조를, 18세 이상 일반 성인 사용자가 자신이 신뢰하는 한 명의 성인을 직접 지정할 수 있는 형태로 넓혔다.

등록 가능 연령은 글로벌 18세 이상, 한국은 19세 이상이다. 사용자는 ChatGPT 설정에서 Trusted Contact 1명을 추가할 수 있고, 등록자는 초대를 받은 뒤 1주일 안에 수락해야 기능이 활성화된다. 거절될 경우 사용자는 다른 성인을 다시 지정할 수 있다.

알림 절차는 자동 시스템이 자해 가능성이 있는 심각한 안전 우려를 감지하면 ChatGPT가 사용자에게 Trusted Contact에게 알림이 갈 수 있다는 점을 미리 알리고, 직접 연락을 시도해 보도록 권유 문구도 함께 제공한다. 이후 OpenAI 측 훈련된 소규모 리뷰어 팀이 상황을 검토해 심각하다고 판단하면 이메일, 문자, 또는 ChatGPT 계정이 있는 경우 인앱 알림으로 Trusted Contact에게 짧은 통지를 보낸다.

알림은 의도적으로 정보를 제한해 자해가 우려되는 방식으로 등장했다는 일반적인 사유와 안부 확인 권고, 민감한 대화를 다루는 전문가 가이드 링크만 포함된다. 채팅 세부 내용이나 대화 전사(transcript)는 사용자 프라이버시 보호를 위해 포함되지 않는다. 사용자는 설정에서 언제든 Trusted Contact를 제거하거나 변경할 수 있고, Trusted Contact 본인도 도움말 센터를 통해 스스로 등록을 해제할 수 있다.

OpenAI는 이러한 심각한 안전 상황은 드물지만, 발생 시 적시 검토와 대응이 가능하도록 시스템을 설계했다고 밝혔다. 모든 알림은 발송 전 훈련된 사람의 검토를 거치며, 안전 알림 검토 목표 시간은 1시간 이내로 설정돼 있다.

OpenAI는 이번 기능을 임상의·연구자·정신건강·자살 예방 전문 기관의 자문을 받아 개발했다고 밝혔다. 60개국 260명 이상의 면허 의사로 구성된 Global Physicians Network와 Expert Council on Well-Being and AI의 의견이 반영됐고, 미국심리학회(American Psychological Association) 등 외부 단체와도 협력했다.

Trusted Contact는 전문 진료나 위기 대응 서비스를 대체하지 않으며, 사용자를 지원하는 여러 안전장치 가운데 하나라는 점도 강조됐다. ChatGPT는 이전과 마찬가지로 적절한 경우 사용자가 위기 핫라인이나 응급 서비스에 연락하도록 안내한다.

이번 기능은 OpenAI의 광범위한 안전 노력의 일부다. 170명 이상의 정신건강 전문가와 함께 잠재적 고통 신호 감지·대화 디에스컬레이션·실세계 도움 연결 응답을 개선해 온 작업, 장시간 사용 시 휴식을 권하는 기능, 자살·자해 지시 요청을 거부하고 지역화된 위기 자원으로 안내하도록 학습된 응답이 함께 운영된다.