더버지, 'AI 슬롭 걸러낼 필터를 달라'며 플랫폼 라벨링 실효성 비판

온라인에서 AI가 만든 콘텐츠를 피하기란 거의 불가능해졌다. 지난 1년간 유튜브와 인스타그램, 틱톡 등은 콘텐츠 진위 확인 노력을 강화해, 상당수가 AI 생성 이미지·영상·음악을 사람이 만든 것과 구분하는 라벨을 자동으로 붙이고 있다. 하지만 더버지는 칼럼에서 라벨만으로는 부족하다며, 사용자가 직접 AI 콘텐츠를 걸러낼 수 있는 'AI' 체크박스 형태의 필터를 달라고 요구했다.

현재의 라벨링은 콘텐츠가 보이는 방식을 의미 있게 바꾸지 못했다. 일부 틱톡·유튜브 영상은 설명란에 AI 고지가 붙거나 영상 위에 정보 라벨이 표시되고, 메타는 AI 메타데이터나 창작자의 자발적 고지가 담긴 페이스북·인스타그램 이미지에 'AI 정보' 라벨을 적용한다. 그러나 라벨이 붙은 콘텐츠를 실제로 안 보이게 하기는 매우 어렵다는 게 칼럼의 지적이다.

필자는 메타와 구글, 틱톡, 스포티파이에 AI 라벨이 붙은 콘텐츠를 사용자가 걸러낼 수 있게 할 계획이 있는지 물었다. 틱톡과 스포티파이는 답하지 않았고, 구글은 공유할 내용이 없다고 했으며, 메타는 인용 가능한 답변을 주지 않았다. 어느 곳도 '그렇다'고 답하지 않았다.

AI 콘텐츠 필터를 갖춘 드문 사례인 데비안아트조차 기능이 숨겨져 있다. 계정을 만든 뒤 우측 상단 사용자 아이콘에 마우스를 올려야 'AI 콘텐츠 설정' 메뉴가 나오고, 선택지는 기본값인 'AI 표시'와 'AI 억제'(더 적은 빈도) 두 가지뿐이다. 필자는 두 옵션을 모두 써봤지만 뚜렷한 차이를 느끼지 못했고, 데비안아트가 AI 출처가 명확한 이미지에 라벨을 자동으로 붙이는 일을 제대로 못 한다고 평가했다.

핀터레스트도 비슷하다. 로그인한 사용자는 설정에서 '추천 다듬기'를 고른 뒤 'AI 콘텐츠' 탭에서 미술·뷰티·패션·홈데코 같은 범주를 끌 수 있고, 끄면 해당 범주의 'AI 변형 콘텐츠를 덜' 보여준다고 한다. 하지만 필자는 필터를 최대로 켜고도 부자연스러운 AI 흔적이 보이는 이미지를 여전히 많이 봤다며 완벽과는 거리가 멀다고 했다.

플랫폼 경영진도 문제를 인정한다. 인스타그램 책임자 애덤 모세리는 지난 12월 'AI 생성물이 늘면서 진정성이 희소 자원이 되고 있다'고 말했고, 구글 CEO 순다르 피차이는 최근 디코더 인터뷰에서 'AI 슬롭이 많이 떠돌고 있다'며 사용자가 거기에 '적응해야 한다'고 인정했다. 필자는 그렇다면 필터를 달라고 받아쳤다.

C2PA와 신스ID(SynthID) 같은 출처 기반 시스템은 생성 시점에 메타데이터나 보이지 않는 워터마크를 새겨 넣지만, 이를 하지 않는 오픈소스 AI 모델이 많고 메타데이터는 너무 쉽게 제거된다. 패턴을 분석해 AI 사용 가능성을 점수화하는 탐지 방식도 오탐을 낸다. 어느 것도 대규모에서 효과적으로 작동하지 못한다. 필자는 필터로 라벨링의 무력함이 드러나면, 그 라벨을 딥페이크 방지책으로 내세우는 오픈AI 같은 제공업체와 플랫폼이 규제 대응용 눈가림 대신 실제로 작동하는 해법을 찾게 될 것이라고 주장했다.

칼럼은 또 왜 라벨 없는 AI 슬롭을 신고할 수 없느냐고 물으며, 지난해 캡윙(Kapwing) 연구가 신규 사용자에게 노출되는 유튜브 영상의 20% 이상이 저품질 생성 슬롭이었다고 밝힌 점을 들었다. 다만 이를 일일이 검수하려면 많은 인간 모더레이터가 필요할 것이라고 짚었다. 대안으로는 AI 콘텐츠 대신 '인증된 인간 창작자'를 라벨링하는 방식을 제시했는데, 이는 모세리가 인스타그램용으로 내놓은 구상이자 스포티파이가 '인증 아티스트'로 이미 하고 있는 것이다. 필자는 메타·스포티파이·구글이 이런 콘텐츠를 만드는 AI 도구의 제작자이기도 해 AI로 수익을 내려 한다고 지적했다.