미국 유타주, AI 챗봇에 정신과 약물 처방 갱신 허용… 의사들 "안전성 검증 부족" 우려

미국 유타주가 AI 챗봇에 정신과 약물 처방 갱신 권한을 부여하는 시범 프로그램을 시작한다. 이는 미국에서 임상 권한을 AI에 위임한 두 번째 사례로, 주 정부는 비용 절감과 의료 인력 부족 해소에 도움이 될 것으로 기대하고 있다. 그러나 정신과 의사들은 시스템의 불투명성과 안전성에 대해 강한 우려를 표명하고 있다.

지난주 발표된 이 1년짜리 시범 프로그램은 샌프란시스코 스타트업 Legion Health의 AI 챗봇이 특정 조건 하에서 정신과 약물 처방을 갱신할 수 있도록 허용한다. 유타주 기반 환자들에게 월 19달러 구독료로 "빠르고 간편한 리필" 서비스를 제공하며, 4월 중 시작될 예정이지만 현재는 대기자 명단만 운영 중이다.

프로그램은 의도적으로 좁은 범위로 설계되었다. 유타주 AI 정책실과의 합의에 따라 챗봇은 기존 의사가 처방한 15개 저위험 유지 약물만 갱신할 수 있다. 여기에는 플루옥세틴(프로작), 서트랄린(졸로프트), 부프로피온(웰부트린), 미르타자핀, 히드록시진 등 불안과 우울증 치료에 흔히 사용되는 약물이 포함된다. 환자는 안정적인 상태여야 하며, 최근 용량 변경이나 지난 1년 내 정신과 입원 이력이 있는 경우 제외된다.

새로운 처방 발행은 불가능하며, 혈액 검사 모니터링이 필요한 약물도 제외된다. 규제 약물 역시 금지 대상으로, 다수의 ADHD 약물이 해당된다. 벤조디아제핀, 항정신병약, 리튬 등도 배제되어 조현병이나 양극성 장애 같은 복잡한 정신과 사례는 시범 프로그램 범위 밖에 있다. 환자는 10회 리필 또는 6개월마다(둘 중 먼저 도래하는 시점) 의료 제공자와 상담해야 한다.

그러나 정신과 의사들의 반응은 회의적이다. 유타대학교 의과대학 정신과 교수 브렌트 키오스(Brent Kious)는 AI 기반 리필 시스템의 "장점이 과장되었을 수 있다"고 지적하며, 이 도구가 "가장 치료가 필요한 사람들의 접근성을 높이지는 못할 것"이라고 말했다. 대상 환자는 이미 정신과 의사와 치료 계획을 진행 중이어야 하기 때문이다.

하버드 의과대학 정신과 교수이자 베스 이스라엘 디코니스 메디컬 센터 디지털 정신의학 책임자인 존 토러스(John Torous)도 우려를 표했다. 그는 처방이 단순한 약물 상호작용 확인을 넘어서는 작업이라며, 현재의 AI 시스템이 "환자의 약물 계획에 관련된 고유한 맥락과 요인을 이해할 수 있는지" 의문을 제기했다. 키오스 교수는 "원칙적으로 안전할 수 있지만 세부 사항에 따라 달라진다"며, "지금은 연금술 같은 느낌"이라고 평가했다.

더 즉각적인 안전 우려도 있다. 유타주의 첫 번째 AI 처방 실험은 지난 12월 시작된 1차 의료 분야의 Doctronic 시범 프로그램이었다. 가동 수주 만에 보안 연구자들이 Doctronic 시스템을 백신 음모론 유포, 메스암페타민 제조법 생성, 환자의 오피오이드 처방량 3배 증량으로 유도하는 데 성공했다.

Legion은 시범 프로그램이 엄격한 안전장치 하에 운영된다고 밝혔다. 유타주와의 합의에 따라 상세한 월간 보고서를 제출하고, 첫 1,250건의 요청은 인간 의사가 면밀히 검토하며, 이후에는 약 5~10%의 요청을 주기적으로 표본 검사한다.

유타주 관계자들은 유지 약물 갱신 과정의 안전한 자동화를 통해 50만 명의 정신건강 서비스 미접근 주민에게 도움을 줄 수 있을 것으로 기대하고 있다. Legion 공동 창업자 겸 CEO 야시 파텔(Yash Patel)은 이를 "리필을 넘어서는 훨씬 더 큰 것의 시작"이라고 표현했지만, 정신과 전문의들은 더 많은 투명성과 과학적 검증, 엄격한 테스트가 선행되어야 한다고 강조하고 있다.