구글 SynthID 워터마크 역설계 시도 논란… 개발자 "디코더 혼란만 가능", 구글 "체계적 제거 불가"

한 소프트웨어 개발자가 구글 딥마인드의 AI 워터마킹 시스템 SynthID를 역설계했다고 주장해 논란이 일고 있다. Aloshdenny라는 사용자명으로 활동하는 이 개발자는 AI 워터마크를 생성 이미지에서 제거하거나 다른 작품에 수동으로 삽입할 수 있다고 밝혔다. 그러나 구글은 이 주장이 사실이 아니라고 즉각 반박했다.

Aloshdenny는 자신의 작업을 깃허브에 오픈소스로 공개하고 미디엄에 전 과정을 문서화했다. 그에 따르면 200장의 제미나이 생성 이미지와 신호 처리 기술, 그리고 "너무 많은 여가 시간"만으로 이 작업이 가능했다. 그는 "신경망도, 독점 접근도 필요 없었다. 실직 상태에서 순수 검정색 AI 생성 이미지를 충분히 평균화하면 모든 0이 아닌 픽셀이 문자 그대로 워터마크"라고 설명했다.

SynthID는 구글 AI 도구가 생성한 콘텐츠에 거의 보이지 않는 워터마크를 삽입하는 시스템이다. 이미지 생성 시점에 픽셀 수준에서 워터마크를 삽입하며, 이미지 품질을 손상시키지 않고는 제거하기 어렵도록 설계되었다. Nano Banana와 Veo 3 같은 모델이 생성한 모든 콘텐츠에 적용되며, 유튜브의 AI 생성 크리에이터 클론에도 활용되고 있다.

역설계 과정은 기술적으로 복잡하다. 먼저 제미나이로 순수 검정색 또는 순수 흰색 이미지 200장을 생성한 뒤, 대비와 채도를 강화하고 채도의 노이즈를 제거해 워터마크 패턴을 노출시킨다. 이후 패턴을 평균화해 채널별 모든 주파수 대역에서 워터마크 신호의 크기와 위상을 파악한 뒤, 이미지에서 해당 주파수의 흔적을 찾아 삽입 시와 같은 각도에서 부분적으로 제거하는 방식이다.

그러나 Aloshdenny 본인도 SynthID를 완전히 제거하는 데는 실패했다고 인정했다. 그가 달성한 최선의 결과는 SynthID 디코더를 충분히 혼란시켜 워터마크 판독을 포기하게 만드는 것이었다. 그는 "디코더를 혼란시켜 포기하게 만드는 것이 내가 해낼 수 있는 최선이었다는 사실 자체가 이 시스템의 설계가 얼마나 우수한지를 보여준다"고 말했다.

Aloshdenny는 SynthID에 대해 "진정으로 뛰어난 엔지니어링"이라고 평가했다. 그는 "완벽하지는 않지만, 깨뜨릴 수 없는 것을 목표로 한 시스템이 아니다. 오용 비용을 충분히 높여 대부분의 사람이 시도조차 하지 않게 만드는 것이 목적"이라고 분석했다.

구글은 이 주장에 즉각 반박했다. 구글 대변인 미리암 칸(Myriam Khan)은 더 버지에 "이 도구가 SynthID 워터마크를 체계적으로 제거할 수 있다는 주장은 사실이 아니다"라고 밝혔다. 그는 "SynthID는 AI 생성 콘텐츠를 위한 강력하고 효과적인 워터마킹 도구"라고 강조했다.

이번 사건은 AI 생성 콘텐츠 식별 기술의 한계와 가능성을 동시에 보여준다. 워터마크가 완전히 역설계되지는 않았지만, 신호 처리만으로 워터마크 패턴을 부분적으로 파악할 수 있다는 점이 드러났다. AI 워터마킹 기술이 콘텐츠 진위 확인의 핵심 수단으로 부상하는 가운데, 그 견고성에 대한 지속적인 검증이 필요하다는 점을 시사한다.