AI가 진실 왜곡한다는 책에서 가짜 '합성 인용문' 발각… 저자는 그래도 AI 못 끊어

AI가 진실을 왜곡한다고 경고하는 책을 쓴 저널리스트가, 정작 그 책에서 AI가 만들어 낸 '합성 인용문'을 실은 사실이 드러났다. 뉴욕타임스 조사로 밝혀진 이번 사례는 AI 도구를 취재에 활용하는 일이 어떤 위험을 안고 있는지 보여 준다.

문제의 인물은 저널리스트이자 작가인 스티븐 로젠바움이다. 그의 신간 '진실의 미래: AI는 어떻게 현실을 다시 만드는가(The Future of Truth: How AI Reshapes Reality)'는 빠르게 움직이고 이윤을 좇는 AI의 압력 속에서 진실이 어떻게 휘어지고 흐려지며 합성되는지를 다룬 책이다.

그러나 뉴욕타임스가 이번 주 진행한 조사에서, 로젠바움이 책을 취재하며 AI 도구를 사용하는 과정에서 비롯된 '부정확하게 출처가 표기되거나 합성된 인용문 몇 건'이 발견됐다. 로젠바움 본인도 이 사실을 인정했다.

문제가 된 인용문 가운데 하나는 IT 기자 카라 스위셔의 발언으로 적혀 있었으나, 스위셔는 뉴욕타임스에 그런 말을 '한 적이 없다'고 밝혔다. 또 다른 인용문은 노스이스턴대학교 교수 리사 펠드먼 배럿의 것으로 표기됐는데, 배럿은 해당 문장이 자신의 책에 '나오지 않으며, 내용도 틀렸다'고 말했다.

로젠바움은 현재 편집자들과 함께 전체 '인용 감사(citation audit)'를 진행하고 있으며, 이를 통해 향후 판본에서 오류를 바로잡겠다고 밝혔다.

그는 이번 논란 이후 아르스 테크니카와의 인터뷰에서 '교훈을 얻었다'며, 앞으로 AI가 내놓는 결과물을 '훨씬 더 의심하고' '쉽게 믿지 않겠다'고 말했다.

다만 로젠바움은 AI 도구 자체를 놓을 생각은 없다고 했다. 그는 이전 책들을 쓸 때처럼 AI 없이 취재하던 방식으로 돌아갈 의향이 없다며, 'AI가 정리될 때까지 몇 년을 쉬면서 마이크로소프트 워드 같은 도구로 돌아가는 건 내 성향에 맞지 않는다'고 말했다.

그는 AI를 '마법 같다'고 표현했다. 'AI는 아이디어들을 연결하고 엮어 주며, 혼자서는 떠올리지 못할 사고의 경로를 제시한다'는 것이 그의 설명이다.

아르스 테크니카는 이 같은 태도를 J.R.R. 톨킨의 '절대 반지'에 빗댔다. AI는 그것을 쓰는 많은 이들에게 자신이 그 힘을 제대로 통제할 수 있다고 믿게 만들지만, 정말로 그럴 수 있는지는 여전히 물음표로 남는다.