"AI 없이 만들었다" 증명의 시대, 12개 넘는 인증 표준이 난립하는 이유

생성형 AI 기술이 인간의 작업물을 점점 정교하게 모방하면서, 온라인에서 접하는 콘텐츠의 진위에 대한 회의가 커지고 있다. 뉴스 사이트, 소셜 미디어 플랫폼, 검색 엔진 결과에 AI 생성 콘텐츠가 범람하고 있다는 인식이 로이터 연구소(Reuters Institute) 설문 조사에서도 확인됐다.

인스타그램 책임자 아담 모세리(Adam Mosseri)는 지난 12월 AI 기술이 전문가의 작업과 시각적으로 구별할 수 없는 콘텐츠를 만들어내는 수준에 이르면서 "가짜 미디어보다 실제 미디어에 지문을 남기는 것이 더 실용적"이라고 발언했다. 이는 AI가 만든 것을 탐지하기보다, 인간이 만든 것을 인증하는 방향으로의 전환을 시사한다.

인간이 만든 콘텐츠를 인증하는 것은 원래 메타 플랫폼에서 이미 사용 중인 C2PA 콘텐츠 자격 증명 표준이 담당할 역할이었다. 어도비(Adobe), 마이크로소프트(Microsoft), 구글(Google) 등이 이 표준을 지지했지만, 실제 구현은 효과를 거두지 못하고 있다. AI 콘텐츠를 만들고 유통하는 사람들이 클릭, 혼란, 수익을 위해 AI 사용 출처를 숨기려는 동기가 크기 때문이다.

이러한 상황에서 인간 창작물을 AI와 구별하기 위한 대안이 쏟아지고 있다. 현재 최소 12개의 AI-free 라벨링 솔루션이 존재한다. 미국작가조합(Authors Guild)의 도서 전용 "인간 저작 인증"처럼 특정 분야에 한정된 것도 있고, 프라우들리 휴먼(Proudly Human)과 낫바이AI(Not by AI)처럼 텍스트, 시각 예술, 영상, 음악을 아우르는 포괄적 솔루션도 있다.

문제는 검증 방식의 신뢰성이다. 메이드 바이 휴먼(Made by Human)은 순전히 신뢰 기반으로 운영되어 누구나 배지를 다운로드해 자기 작품에 붙일 수 있다. 노AI아이콘(No-AI-Icon)은 시각 검사와 AI 탐지 서비스를 병행하지만, AI 탐지 서비스의 정확도는 악명 높게 불안정하다. 가장 신뢰할 수 있는 방식은 창작자가 스케치나 초안 등 작업 과정을 인간 감사에게 직접 보여주는 것이지만, 극도로 노동 집약적이다.

"인간이 만든 것"의 정의 자체도 논란이다. UC 버클리 인간호환AI센터의 조너선 스트레이(Jonathan Stray) 수석 과학자는 "LLM과 아이디어를 논의한 후 수동으로 실행한 것이 AI 사용에 해당하는가? 창작자가 AI를 사용하지 않았음을 어떻게 증명하는가?"라고 물으며 "유기농 같은 다른 소비자 라벨에는 이를 시행하는 규정과 기관이 있다"고 지적했다. UC 버클리 정보대학원의 니나 베구시(Nina Beguš) 강사는 "오늘날 모든 창작물은 우리가 증명할 수 없는 방식으로 AI의 영향을 받을 수 있다"며 "저작권이 오직 인간만을 위해 만들어진 창작성 기준을 개편해야 한다"고 말했다.

블록체인 기술을 활용한 해결책도 등장했다. 프루프 아이 디드 잇(Proof I Did It)은 블록체인에 검증 기록을 영구 저장해 위조 불가능한 디지털 인증서를 발급한다. UC 래디 경영대학원의 토마스 바이어(Thomas Beyer) 원장은 "검증된 창작자에게 메이드 바이 휴먼 토큰을 발행함으로써 진정성이 수학적으로 보장되는 프리미엄 예술 시장을 만들 수 있다"고 설명했다.

AI 사용을 숨기려는 동기가 강한 것도 문제다. 로맨스 작가 코랄 하트(Coral Hart)는 뉴욕타임스에 작년 200편 이상의 AI 생성 소설로 6자릿수 수입을 올렸다고 밝혔지만, AI 사용 라벨은 붙이지 않고 있다. 기술에 대한 강한 낙인이 사업에 타격을 줄 수 있다는 우려 때문이다.

낫바이AI는 이러한 모호함을 감안해 최소 90%가 인간에 의해 제작된 콘텐츠에 다양한 배지를 부여하는 방식을 제안하고 있다. 그러나 이 자발적 접근 방식에는 진실성을 검증하는 장치가 없다. 결국 AI 라벨링과 인간 제작 인증 간의 비교에서, 후자가 성공할 가능성이 더 높다는 분석이 나오고 있다. AI 콘텐츠 제작자들의 투명성 회피 동기가 강한 반면, 인간 창작자들은 자신의 작업을 구별하려는 적극적 동기가 있기 때문이다.