유튜브, AI 딥페이크 얼굴 매칭 탐지를 만 18세 이상 모든 이용자에 개방

유튜브가 AI 닮은꼴(likeness) 탐지 도구를 만 18세 이상 모든 사용자에게 확대한다고 발표했다. 유튜브 계정을 가진 성인이라면 누구나 자신의 얼굴이 등장하는 잠재적 딥페이크 영상을 플랫폼이 추적하도록 의뢰할 수 있다.

닮은꼴 탐지는 사용자의 셀카 형식 얼굴 스캔을 기준으로 유튜브 영상에서 얼굴이 일치하는 콘텐츠를 모니터링한다. 일치 결과가 나오면 유튜브가 사용자에게 알림을 보내고, 사용자는 해당 콘텐츠 삭제를 요청할 수 있다. 유튜브는 과거 이 도구의 삭제 요청 건수가 "매우 적다"고 밝혀왔다.

유튜브는 처음 크리에이터를 대상으로 이 기능을 시험했고 이후 정부 관계자, 정치인, 기자, 연예 산업 종사자로 단계적으로 적용 대상을 넓혔다. 이번 18세 이상 일반 사용자 개방은 평균적인 개인도 자신의 얼굴이 쓰인 콘텐츠를 상시 감시할 수 있게 한다는 점에서 큰 전환이다.

삭제 요청은 유튜브 프라이버시 정책에 따라 평가된다. 회사는 콘텐츠가 현실적인지, AI 생성물로 표시돼 있는지, 특정 인물을 고유하게 식별할 수 있는지 등을 기준으로 검토한다고 밝혔다.

패러디나 풍자 같은 면제 조항이 있고, 도구는 얼굴 닮은꼴에만 적용되며 음성 등 다른 식별 정보는 다루지 않는다. 사용자는 프로그램에서 탈퇴해 유튜브가 보관 중인 데이터를 삭제하도록 할 수 있다.

발표는 유튜브 크리에이터 포럼에서 이뤄졌지만, 유튜브 대변인 잭 말론(Jack Malon)은 적격 '크리에이터'의 자격 요건은 따로 없다고 설명했다.

말론은 이메일에서 "이번 확대로 우리는 크리에이터가 10년 동안 영상을 올렸든 이제 막 시작했든 동일한 수준의 보호를 받게 된다는 점을 분명히 한다"고 말했다.

딥페이크 콘텐츠는 흔히 유명인, 정치인, 공인을 대상으로 하지만 일반 시민을 정교한 디지털 복제물로 만드는 능력 자체도 우려된다. 같은 반 학생에게 딥페이크 피해를 입은 청소년 사례가 보고됐고, 청소년 3명이 xAI의 챗봇 Grok이 자신들의 아동성착취물(CSAM)을 생성했다며 회사를 상대로 소송을 제기한 사건도 있었다.