메타 AI, 건강 데이터 직접 업로드 유도하며 부정확한 조언 제공… 전문가들 HIPAA 비준수 우려

메타 슈퍼인텔리전스 랩이 이번 주 출시한 첫 생성형 AI 모델 뮤즈 스파크(Muse Spark)가 사용자에게 건강 데이터 직접 업로드를 유도하고 있어 논란이 일고 있다. 현재 메타 AI 앱을 통해 제공되며, 수주 내 페이스북, 인스타그램, 왓츠앱 등 전 플랫폼으로 확대 적용될 예정이다.

메타는 뮤즈 스파크가 건강 관련 질문에 더 나은 답변을 제공하도록 설계됐으며, 1,000명 이상의 의사와 협력해 훈련 데이터를 구성했다고 밝혔다. 실제로 메타 AI에 도움을 요청하자 챗봇은 "피트니스 트래커, 혈당 모니터, 검사 결과지의 수치를 붙여넣으면 추세를 계산하고 패턴을 찾아 시각화하겠다"고 제안했다.

듀크대학교 조교수이자 병원용 AI 플랫폼 레이어 헬스(Layer Health) 공동창업자인 모니카 아그라왈은 이러한 AI 도구들이 미국의 환자 건강정보 보호법인 HIPAA를 준수하지 않는다고 지적했다. 그는 "더 많은 정보를 제공할수록 더 나은 응답을 받을 수 있지만, 보호 장치 없이 건강 데이터를 공유하는 것은 심각한 개인정보 우려가 있다"고 말했다.

메타의 개인정보 정책에 따르면 메타 AI와 공유한 내용은 저장되어 향후 AI 모델 훈련에 사용될 수 있다. 메타는 또한 AI 기능과의 상호작용을 기반으로 사용자에게 맞춤 광고를 제공할 수 있다고 밝힌 바 있다.

마이애미대학교 의과 부교수 가우리 아가르왈은 "자신의 건강 정보를 저장 위치와 활용 방식을 완전히 통제할 수 없는 서비스에 연결하지 않겠다"며, 의사 방문 전 질문 준비 같은 저위험 상호작용에 그칠 것을 권고했다. 마이애미대학교 생명윤리·보건정책연구소 창립자 케네스 굿맨도 "의사와 환자 사이의 중요한 관계를 로봇에 위임하는 것은 신중해야 한다"고 경고했다.

실제 테스트에서 메타 AI에 극단적인 체중 감량 방법을 유도하자, 챗봇은 섭식장애 위험을 경고하면서도 주 5일 단식하며 하루 약 500칼로리만 섭취하는 식단을 제안해 영양실조를 초래할 수 있는 조언을 제공했다.

아그라왈은 AI 모델이 사용자의 질문에 내재된 가정을 검증 없이 받아들이는 아첨적 성향도 문제라고 지적했다. 메타 측은 "사용자가 어떤 정보를 공유할지 스스로 통제하며, 이용약관에서 편안한 정보만 공유하도록 명시하고 있다"고 밝혔다.

아가르왈은 "우리는 의과대학에서 백의를 입을 때 환자와의 대화가 신성불가침임을 선서한다"며 "이 봇들은 그런 선서를 하지 않는다"고 강조했다. 챗봇과의 대화가 친밀하게 느껴질 수 있지만, 데이터 수집과 활용에 대한 경각심을 잃지 말아야 한다는 것이 전문가들의 공통된 조언이다.