독일 법원, 구글 AI 오버뷰 허위 답변에 'AI 발언' 첫 법적 책임 인정

독일의 한 법원이 구글의 AI 오버뷰에 담긴 허위 진술에 대해 구글이 법적 책임을 진다고 판결했다. 출처 링크를 부정확하게 요약하는 것으로 알려진 AI 검색엔진과 챗봇 전반에 영향을 줄 수 있는 결정이다.

디코더가 포착한 이 사건에서 두 퍼블리셔는 구글 AI 오버뷰가 자신들을 사기를 비롯한 수상한 영업 행위와 잘못 엮었다는 사실을 발견했다. AI 오버뷰는 '그렇다, 해당 업체는 의심스러운 영업 관행으로 알려져 있으며 흔히 사기로 여겨진다'는 식의 단정적 진술로 퍼블리셔의 명예를 훼손했고, 올해 초 퍼블리셔들이 정지 요구 서한을 보낸 뒤에도 구글은 오해를 부르는 출력을 바로잡지 않았다.

구글은 AI 오버뷰의 허위 진술에 대한 책임을 피하려 늘 쓰던 논리를 동원했다. 대부분의 이용자는 AI 출력이 항상 정확하지는 않으며 반드시 검증이 필요하다는 점을 이해한다는 주장이었다.

그러나 법원은 단순히 제3자의 진술로 이어지는 링크 목록을 보여주는 전통적 검색엔진과 달리, 구글의 도구는 인터넷상의 링크를 스스로 오독한 결과를 토대로 '독자적이고 새로우며 실질적인 진술'을 만들어냈다고 봤다.

법원은 이것이 문제라고 지적했다. 퍼블리셔가 검색 결과에 나타나는 제3자의 명예훼손성 진술은 소송으로 게시를 막을 수 있었던 반면, AI 오버뷰의 바탕이 되는 알고리즘과 출력은 오직 구글만이 시정할 수 있기 때문이다. 적어도 초기에 구글이 그렇게 하지 않았으므로 '책임을 져야 한다'는 것이다. 더욱이 이번 AI 오버뷰는 '검색 결과에는 아예 등장하지 않는 진술'까지 담고 있어 구글의 항변은 특히 빈약하다고 판단했다.

구글이 추가 AI 오버뷰에서 해당 허위 주장을 퍼뜨리지 못하도록 한 임시 금지 명령은 세계적 파장을 부를 수 있다. 이 법원이 AI의 발언에 대해 AI 기업에 책임을 물은 첫 사례로 보이기 때문이다.

그동안 AI 기업들은 잘못된 정보를 경고하는 면책 문구가 신뢰할 수 없는 출력을 둘러싼 소송에서 자신들을 보호해 주길 기대해 왔다. 지난해 한 챗봇 업체는 AI의 발언이 그 자체로 '순수한 표현'의 범주에 속하므로 미국 수정헌법 1조의 보호를 받아야 한다고 주장하기도 했다.

하지만 독일 법원 판결문의 구글 번역에 따르면, 이번 허위 출력은 '주로 피고의 상업 활동의 표현'이었고, AI 도구의 '의견'과 허위 진술은 여론에 영향을 미칠 수 있는 것으로 봤다.