美 '딥페이크 삭제법' 5월 19일 발효, 검열 도구화 우려 확산
미국 'Take It Down Act'의 핵심 조항인 48시간 삭제 의무가 2026년 5월 19일부로 본격 발효됐다. 비동의 친밀 이미지(NCII)를 인지한 온라인 플랫폼이 48시간 안에 제거하지 못하면 벌금이 부과된다. 작년 5월 도널드 트럼프 대통령이 서명한 법으로, 서명과 함께 실제 이미지든 AI 생성물이든 NCII 배포는 즉시 형사처벌 대상이 됐다.
연방거래위원회(FTC)의 앤드루 퍼거슨 위원장은 시행 시한을 앞두고 12곳 이상 테크 기업에 서한을 보냈다. 명단에는 Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok, X가 포함됐다. FTC는 이용자가 쉽게 삭제 요청을 할 수 있는 절차와 48시간 내 제거, '알려진 동일 사본'까지 처리할 것을 지시했고, 위반 1건당 53,000달러 이상의 민사 벌금이 부과될 수 있다고 상기시켰다.
Meta, Microsoft, Google, TikTok, Snap 등 주요 플랫폼은 모두 법안을 지지했고 준수에 자신감을 표명했다. Meta 여성 안전 책임자 신디 사우스워스는 회사가 "이미 수개월 전부터 법을 준수해 왔다"며 친밀 이미지 학대 대응 활동과 'nudify' AI 앱 운영자를 상대로 한 소송 등을 강조했다. Snap 대변인 모니크 벨라미는 "원치 않는 누드와 유사 이미지를 사전 탐지·조치하는 도구에 투자하고 있다"고 말했고, TikTok US 대변인은 NCMEC, StopNCII.org와의 협력을 들었다.
과거 성적 AI 딥페이크 문제로 비판받아 온 X도 법안을 지지했다. 2024년 테일러 스위프트의 노골적 AI 딥페이크가 확산됐고, 최근에는 통합 AI 챗봇 그록(Grok)이 사용자 요청에 따라 동의 없이 인물의 옷을 벗기는 사례가 다수 보고됐다. 뉴욕타임스 분석에 따르면 단 9일 동안 그록은 "최소 180만 개의 여성 성적 이미지"를 공유했다.
그러나 표현의 자유 단체와 일부 NCII 피해자 옹호자들은 삭제 조항을 비판한다. 법이 선의로 집행되더라도 플랫폼이 위험을 줄이기 위해 비위반 콘텐츠까지 과도하게 삭제할 가능성이 있다. 트럼프 행정부 하에서는 정적을 겨냥하는 무기로, 트럼프 친화적 플랫폼에는 면죄부로 작동할 수 있다는 우려도 나온다.
트럼프 대통령은 2025년 국정연설에서 "이 법을 나 자신을 위해 쓸 것이다. 온라인에서 나만큼 못된 대우를 받는 사람은 없다"고 농담조로 말했다. 당시 X의 CEO였던 린다 야카리노가 서명식에 참석했고, 트럼프는 X 소유주 일론 머스크가 자신의 행정부에서 일하던 시점에 야카리노에게 "잘하고 있다"고 칭찬했다.
사이버 시민권 이니셔티브의 메리 앤 프랭크스 회장은 트럼프의 발언이 "이 법이 원칙대로 집행되지 않고 개인적 원한을 갚는 데 쓰일 것임을 최고위에서 알린 선언"이라고 평했다. 프랭크스는 평소 새 규제에 반발하던 대형 테크 기업들이 이 법을 지지한 이유에 대해 "자신들에게는 결코 쓰이지 않을 거라는 걸 알기 때문일 것"이라며 NCII 피해자들에게 헛된 기대만 주는 결과를 우려했다.
동시에 프랭크스는 법이 행정부가 눈엣가시로 여기는 위키피디아 같은 플랫폼을 향해 휘둘릴 수 있다고 경고했다. 합의 하의 성적 콘텐츠나 청소년의 성적·성별 정체성 탐색을 돕는 교육 자료까지 검열될 가능성이 있다는 것이다. 표현의 자유 단체 EFF, 케이토 연구소, 퍼블릭 놀리지도 통지·삭제 조항이 표현에 중대한 결과를 가져올 수 있다고 경고했고, EFF는 이를 "월권과 검열의 처방"이라고 표현했다.
한편 법은 명백해 보이는 디지털 동의 위반조차 전부 포섭하지 못할 수 있다. 그록이 만든 일부 비동의 이미지는 '성적으로 노골적'이라는 기준을 충족하지 못할 수 있고, 그록 같은 AI 도구가 NCII '제작자'로 분류돼 운영사가 형사책임을 지는지 여부도 불분명하다. 사적으로 생성된 이미지에 삭제 조항이 적용되는지도 명확하지 않다. 법 시행 첫 해에 미 법무부는 형사 조항을 활용해 오하이오주에서 피해자를 괴롭히기 위해 성적 AI 딥페이크를 만든 남성 1명에 대한 유죄 판결을 이끌어냈다.