코플리크스 "테일러 스위프트·리한나 AI 딥페이크가 틱톡서 사기 확산"… 'TikTok Pay' 가입 유도, 메타·유튜브도 골머리

인증 업체 Copyleaks가 사기범들이 테일러 스위프트·리한나 등 유명인의 AI 생성 영상을 동원해 틱톡에서 의심스러운 서비스를 홍보하고 있다고 밝혔다. AI로 만든 유명인 영상이 보상 프로그램 등을 가장해 사용자 개인정보 수집을 시도하고 있다는 것이다.

Copyleaks에 따르면 해당 광고들은 보통 레드카펫·팟캐스트·토크쇼 같은 인터뷰 환경에 유명인이 등장하는 형태이며, 실제 영상 푸티지를 AI로 조작한 사례가 다수다. 광고 상당수는 사용자가 틱톡 콘텐츠를 시청하고 피드백을 제공하면 돈을 벌 수 있다고 주장하는 보상 프로그램을 내세운다.

일부 광고에는 틱톡의 공식 브랜딩이 노출돼 정식 서비스처럼 보이지만, 사용자는 개인정보를 요구하는 제3자 사이트로 리다이렉트된다. 한 광고에서는 스위프트의 사실적인 AI 아바타가 'TikTok Pay'라는 기능에 가입할 것을 권유한다.

또 다른 광고에서는 리한나로 가장한 AI 영상이 "당신은 그냥 콘텐츠를 보고 의견만 주면 된다(you literally just watch content and give your opinion)"고 말한다. 유명인의 음성·외모를 그대로 본뜬 합성 영상이 광고 신뢰도를 끌어올리는 미끼로 쓰이는 셈이다.

Copyleaks는 이번 사례가 소셜 플랫폼들이 정교해지는 딥페이크 범람을 따라잡지 못하고 있는 또 하나의 사례라고 지적했다. 사용자 입장에서는 일상적으로 마주치는 지저분한 문제로 자리 잡고 있다는 것이다.

문제는 틱톡만의 일이 아니다. 보도에 따르면 메타의 인스타그램·페이스북 사용자들은 하루에만 수십억 건(billions)의 사기 광고에 노출되며, 메타의 자체 감독위원회(oversight board)도 자사가 딥페이크 문제를 안고 있음을 인정한 바 있다.

유튜브 역시 유명인을 사칭한 사기 광고에 맞서 "많은 투자를 하고 있다(investing heavily)"고 밝혀, 주요 영상 플랫폼들이 공통으로 딥페이크 광고 대응에 자원을 쏟아붓고 있는 상황이다.

유명인들도 자체 방어책을 모색하고 있다. 스위프트는 지난주 자신의 음성 클립을 AI 모방으로부터 보호하기 위한 신규 상표 출원을 제출했다. 다만 플랫폼·사용자·당사자 어느 쪽에서 풀어야 할지 답을 찾지 못한 채 딥페이크 광고는 계속 진화하고 있다.