유타주, AI 챗봇에 정신과 약물 처방 갱신 허용… 의사 없이 월 19달러로 리필 가능한 1년 파일럿 시작
미국 유타주가 AI 챗봇에 정신과 약물 처방 갱신 권한을 부여하는 1년짜리 파일럿 프로그램을 승인했다. 이는 미국에서 AI에 이 수준의 임상 권한을 위임하는 두 번째 사례로, 주 당국은 비용 절감과 의료 인력 부족 해소를 기대하고 있지만 정신과 전문의들은 시스템의 불투명성과 위험성을 경고하고 있다.
이번 파일럿을 운영하는 것은 샌프란시스코 소재 스타트업 Legion Health로, 유타주 거주 환자들에게 월 19달러 구독 모델로 정신과 약물 리필 서비스를 제공한다. 프로그램은 4월 중 시작될 예정이며, 현재는 대기 명단만 운영 중이다. Legion Health의 공동 창업자이자 CEO인 야시 파텔(Yash Patel)은 이를 "리필을 넘어서는 훨씬 더 큰 것의 시작"이라고 표현했다.
파일럿의 범위는 의도적으로 좁게 설정되었다. AI 챗봇은 기존 임상의가 이미 처방한 15종의 저위험 유지 약물만 갱신할 수 있다. 대상 약물에는 플루옥세틴(프로작), 서트랄린(졸로프트), 부프로피온(웰부트린), 미르타자핀, 하이드록시진 등 주로 불안과 우울증 치료에 사용되는 약물이 포함된다. 규제약물, 벤조디아제핀, 항정신병약, 리튬 등은 제외되어 조현병이나 양극성 장애 같은 복잡한 정신과 질환은 파일럿 범위 밖이다.
이용 자격도 엄격하다. 환자는 안정 상태여야 하며, 최근 용량이나 약물 변경 이력이 있거나 지난 1년 내 정신과 입원 기록이 있으면 제외된다. 환자는 10회 리필마다 또는 6개월 중 먼저 도래하는 시점에 의료진과 상담해야 한다. 시스템 이용 시 신원 확인, 기존 처방 증명, 증상·부작용·효능에 대한 질문 응답이 필요하며, 자살 충동이나 자해 등 위험 신호가 감지되면 임상의에게 에스컬레이션된다.
유타주 당국은 50만 명의 주민이 정신건강 돌봄에 접근하지 못하고 있다며 이번 프로그램의 필요성을 강조했다. 그러나 유타대학교 의과대학 정신과 교수 브렌트 키어스(Brent Kious)는 "AI 기반 리필 시스템의 장점이 과장되었을 수 있다"며, 이 도구가 "가장 돌봄이 필요한 사람들의 접근성을 높이지는 못할 것"이라고 지적했다. 대상 환자가 이미 정신과 의사와 치료 계획을 갖고 있어야 하기 때문이다.
하버드 의과대학 교수이자 베스 이스라엘 디코니스 메디컬센터 디지털 정신의학 디렉터인 존 토러스(John Torous)는 처방이 단순한 약물 상호작용 확인 이상의 과정이라며, 현재의 AI 시스템이 "한 사람의 약물 계획에 관련된 고유한 맥락과 요인을 이해할 수 있는지" 의문을 제기했다. 키어스 교수도 "원칙적으로는 안전할 수 있지만 모든 것이 세부 사항에 달려 있다"며 "지금은 마치 연금술 같다. 사람들에게 사용을 권하기 전에 더 큰 투명성, 더 많은 과학, 더 엄격한 검증이 필요하다"고 말했다.
챗봇이 선별 과정에서 무언가를 놓칠 수 있다는 즉각적인 안전 우려도 있다. 환자가 부작용을 인식하지 못하거나, 빠른 처방을 위해 시스템이 원하는 답을 할 수 있다는 것이다. 키어스 교수는 이것이 챗봇만의 문제는 아니라면서도, 인간 임상의는 환자가 말하는 것뿐 아니라 말하지 않는 것과 자신을 표현하는 방식까지 관찰한다고 강조했다. 또한 챗봇 시스템은 환자가 원하는 결과가 나올 때까지 답변을 조정하기 더 쉽게 만들 수 있다고 덧붙였다.
유타주의 AI 처방 실험이 이번이 처음은 아니다. 지난해 12월 1차 진료 분야에서 Doctronic과 함께 시작한 더 넓은 범위의 파일럿이 진행 중인데, 출시 수 주 만에 보안 연구자들이 해당 시스템을 조작해 백신 음모론 유포, 메스암페타민 제조법 안내, 환자의 오피오이드 복용량 3배 증량 처방까지 유도하는 데 성공한 바 있다. 주 당국은 Legion과의 프로그램이 "주의 정신건강 인력 부족"에 특화되어 설계되었다고 밝혔다.
Legion은 파일럿이 엄격한 가드레일 하에서 운영된다고 강조한다. 유타주와의 합의에 따라 상세한 월간 보고서를 제출하고, 초기 1,250건의 요청은 인간 의사가 면밀히 검토하며, 이후에는 약 5~10%의 요청을 주기적으로 샘플링하게 된다. 공동 창업자이자 사장인 아서 맥워터스(Arthur MacWaters)는 "AI 보조든 완전한 인간 주도든 모든 원격 진료 모델에 위험은 존재한다"며, 이번 파일럿이 "유타주 정신건강 부족 지역의 수십만 명에게 접근성을 확대하기 위한 핵심"이라고 밝혔다.