미국 병원들, AI 챗봇 자체 도입 경쟁… 전문가들은 환자 안전성 우려 제기

미국 내 대형 의료 시스템들이 자체 브랜드 AI 챗봇 도입에 속도를 내고 있다. 많은 미국인들이 이미 대형언어모델(LLM)을 활용해 건강 관련 조언을 구하고 있는 상황에서, 병원들은 이 흐름을 활용해 환자를 자사 서비스로 유도하려는 전략을 펼치고 있다.

임상 AI 기업 K Health의 CEO 알론 블로흐(Allon Bloch)는 "우리는 헬스케어의 변곡점에 있다"며 "수요는 가속화되고 있고, 환자들은 이미 AI를 활용해 생활을 관리하고 있다"고 밝혔다.

K Health는 코네티컷주 하트퍼드 헬스케어(Hartford HealthCare)와 협력해 PatientGPT라는 챗봇을 수만 명의 기존 환자들에게 제공할 계획이다. 블로흐는 "AI를 안전하고 투명한 방식으로, 의료 기록과 진료팀에 연결된 의료 시스템 내에서 활용하는 것이 핵심"이라고 강조했다.

의료 시스템 경영진들은 이러한 챗봇이 환자들에게 편의를 제공하고, 디지털 형평성을 실현하며, 현재 사람들이 사용 중인 상용 AI보다 안전한 대안이 될 것이라고 주장한다.

그러나 일부 전문가들은 이러한 도입에 우려를 표명하고 있다. 챗봇이 브랜드화된 출시에 적합할 만큼 준비되었는지, 충분한 모니터링이 이루어질 수 있는지, 책임 소재는 어떻게 될 것인지에 대한 의문이 제기되고 있다.

보스턴 베스 이스라엘 디코니스 메디컬센터(Beth Israel Deaconess Medical Center)의 임상 추론 연구자이자 내과 의사인 아담 로드먼(Adam Rodman)은 챗봇을 의료 시스템에 통합하는 것이 환자 결과를 개선한다는 증거가 아직 없다고 지적했다.

로드먼은 "매력적인 아이디어"라고 인정하면서도 "아직 거기까지 도달하지 못했다"고 말하며, 실질적인 효과 검증 없이 진행되는 도입에 신중한 입장을 보였다.