"AI가 안 만들었다" 증명하라… 인간 창작물 인증 라벨 12개 이상 난립, 통합 표준은 요원

생성형 AI가 인간 창작물과 구별이 어려워지면서, 크리에이터들이 자신의 작업물에 '인간이 만들었다'는 인증 라벨을 부착하려는 움직임이 확산되고 있다. 인스타그램 책임자 아담 모세리(Adam Mosseri)는 지난 12월 "AI 기술이 발전할수록 가짜 미디어보다 진짜 미디어에 지문을 남기는 것이 더 실용적일 것"이라고 밝힌 바 있다.

로이터 연구소(Reuters Institute) 최근 조사에 따르면, 뉴스 사이트와 소셜 미디어, 검색 결과에 AI 생성 콘텐츠가 만연해 있다는 인식이 광범위하게 퍼져 있다. 메타 플랫폼이 이미 채택한 C2PA 콘텐츠 자격증명 표준이 인간 창작물 인증 역할을 할 것으로 기대됐지만, 광범위한 업계 지지에도 불구하고 실효성이 없는 것으로 드러났다.

현재 최소 12개의 'AI 프리' 인증 대안이 경쟁하고 있다. 작가조합(Authors Guild)의 '인간 저술 인증'처럼 특정 업종에 한정된 서비스부터, Proudly Human과 Not by AI처럼 텍스트·시각예술·영상·음악을 포괄하는 서비스까지 다양하다. 그러나 검증 방식에는 한계가 있다. Made by Human은 순전히 신뢰 기반으로 운영되며, No-AI-Icon은 AI 탐지 서비스를 활용하지만 이러한 도구의 정확도는 신뢰하기 어렵다.

대부분의 서비스는 크리에이터가 스케치나 초안 등 작업 과정을 인간 감수자에게 직접 보여주는 방식으로 검증한다. 기술적 지름길이 없는 현재로서는 가장 신뢰할 수 있는 방법이지만, 극도로 노동집약적이라는 문제가 있다.

'인간이 만들었다'의 정의 자체도 논쟁거리다. UC 버클리 인간호환 AI 센터의 조너선 스트레이(Jonathan Stray) 수석 연구원은 "아이디어를 구상할 때 LLM과 대화하고 수동으로 실행하면 AI를 사용한 것인가? 크리에이터가 AI 미사용을 어떻게 증명할 수 있는가?"라고 지적했다. UC 버클리 정보대학원의 니나 베구시(Nina Beguš) 강사는 "오늘날 모든 창작물은 어떤 식으로든 AI의 손길이 닿을 수 있으며, 인간만을 위해 만들어진 창의성 기준을 개편해야 한다"고 말했다.

Not by AI는 작업의 최소 90%가 인간에 의해 제작된 경우 다양한 인증 배지를 제공하지만, 자발적 방식이라 진실성 검증이 없다. 반면 Proof I Did It은 블록체인 기술을 활용해 검증된 크리에이터와 작품의 영구 기록을 제공한다. UC 래디 경영대학원의 토머스 바이어(Thomas Beyer) 부원장은 "'인간이 만들었다' 토큰을 검증된 크리에이터에게 발행하면, 진정성이 수학적으로 보장되는 '프리미엄 티어' 예술 시장이 만들어진다"고 설명했다.

AI 라벨링의 한계는 이미 현실로 드러나고 있다. 자신의 디지털 클론을 만드는 포르노 배우, 존재하지 않는 판타지 삶을 판매하는 AI 인플루언서, AI 이미지로 온라인 상품을 파는 사기꾼들은 AI 사용을 공개할 동기가 없다. 로맨스 소설 작가 코랄 하트(Coral Hart)는 뉴욕타임스에 지난해 AI로 200편 이상의 소설을 제작해 6자릿수 수익을 올렸다고 밝히면서도, 기술에 대한 "강한 낙인" 때문에 자신의 책에 AI 사용 라벨을 부착하지 않는다고 말했다.

어도비, 마이크로소프트, 구글 등이 참여한 C2PA가 통합 표준의 역할을 제공하고 있지만, AI 콘텐츠 라벨링보다 인간 창작물 검증 쪽이 더 성공 가능성이 높다는 분석이 나온다. AI 도구에 전적으로 반대하지 않는 크리에이터들조차 합성 콘텐츠와 자신의 작업을 구별하려는 동기가 강하기 때문이다.