OpenAI, ChatGPT·Codex 이미지 출처 확인 공개 검증 도구 미리보기 출시

OpenAI가 이미지 등 AI 생성 콘텐츠의 출처(provenance)를 검증하기 위한 다층 접근을 발표했다. C2PA 표준 적합 인증, 구글 딥마인드의 SynthID 워터마크 도입, 공개 검증 도구 미리보기 등 세 가지 축으로 구성된다.

첫째로 OpenAI는 자사를 "C2PA 적합 생성 제품(C2PA Conforming Generator Product)"으로 인증받았다고 밝혔다. C2PA는 메타데이터와 암호 서명을 이용해 콘텐츠 출처 정보를 안전하게 동반시키는 산업 표준이다. 인증을 받으면 다른 플랫폼이 OpenAI 콘텐츠에 붙은 출처 정보를 신뢰성 있게 읽고 보존·전달할 수 있다는 것이 회사 설명이다.

둘째로 ChatGPT, Codex, OpenAI API에서 생성되는 이미지에 구글 딥마인드의 SynthID 워터마크를 적용한다. SynthID는 사람 눈에 보이지 않는 워터마크 층을 이미지에 심어, C2PA 메타데이터가 떼이거나 손실될 때를 대비한 보조 신호 역할을 한다.

회사는 메타데이터 기반 신호의 한계를 함께 지적했다. C2PA 메타데이터는 업로드·다운로드 과정에서 제거되거나, 파일 형식 변환·리사이즈·스크린샷 같은 변환을 거치면 깨질 수 있다. 반면 워터마크는 이런 변환을 더 잘 견디지만 담을 수 있는 정보량은 메타데이터에 미치지 못해, 두 층이 상호 보완한다는 것이 OpenAI의 설계다.

셋째로 OpenAI는 누구나 이미지가 ChatGPT, OpenAI API, Codex 중 어디서 만들어졌는지 확인할 수 있는 공개 검증 도구의 미리보기를 공개했다. 이 도구는 업로드된 이미지에서 Content Credentials(C2PA 메타데이터)와 SynthID 워터마크를 함께 검출한다.

다만 검출에 실패한 경우 단정을 피하는 보수적 운영 방침도 밝혔다. 출처 신호는 의도적·우발적으로 제거될 수 있어, 메타데이터나 워터마크가 발견되지 않는다고 해서 'AI 생성이 아니다'라고 결론짓지 않는다는 것이다.

출시 시점에서 검증 도구는 OpenAI에서 만든 콘텐츠로 한정된다. 회사는 향후 몇 달 안에 산업 전반에 걸친 교차 검증을 지원하고, 시간이 지나면 이미지 외에 더 많은 콘텐츠 유형도 포함하도록 확장할 계획이라고 밝혔다.

OpenAI는 2024년부터 DALL·E 3 생성 이미지에 Content Credentials를 부착하기 시작했고 이후 ImageGen, Sora로 적용 범위를 넓혀 왔다. Sora에는 가시적 워터마크를, Voice Engine에는 오디오 워터마크를 적용해 왔으며, C2PA 운영위원회에도 참여 중이다.