오픈AI, AI 생성 콘텐츠 투명성 위한 EU 행동강령 공식 지지 선언

오픈AI가 유럽의 'AI 생성 콘텐츠 투명성 행동강령(Code of Practice on Transparency of AI-Generated Content)'을 지지한다고 밝혔다. 사람들이 AI로 콘텐츠를 만들고 편집하는 방식이 새로워지고 도구가 더 강력해지고 널리 쓰이면서, 온라인에서 보는 콘텐츠의 맥락을 알 수 있어야 한다는 취지다.

오픈AI는 유럽연합 집행위원회가 해당 행동강령을 발표한 데 이어 이 강령과 그 지향을 지지한다고 선언했다. 회사는 이 강령이 EU AI법을 이행하고 더 투명한 디지털 생태계를 구축하는 중요한 한 걸음이라고 평가했다.

이번 지지는 AI 생성 콘텐츠의 출처표기(provenance)를 강화하기 위한 수년간의 내부 연구와 제품 개발, 생태계 협력을 토대로 한다. 오픈AI는 2024년 이미지 생성 도구 달리 3에 C2PA 메타데이터를 붙이기 시작하며 출처표기 표준을 개발·도입해 왔고, 이후 표기와 탐지 기법 개선, 새로운 연구, 첫 공개 검증 도구 출시를 통해 출처표기를 강화해 왔다. 회사는 수백 곳의 이해관계자와 함께 이번 강령 개발에 기여했다고 밝혔다.

이는 유럽에서의 폭넓은 AI 거버넌스 접근의 연장선이다. 오픈AI는 2025년 미국 기업으로는 처음으로 EU의 '범용 AI 행동강령'에 서명했으며, 명확하고 실행 가능한 규칙이 AI의 책임 있는 발전을 도우면서 기업에 계속 만들어 나갈 확실성을 준다는 믿음을 반영한 조치라고 설명했다.

오픈AI는 출처표기 신호가 콘텐츠의 출처, 제작·편집 방식, 그리고 그것이 주장하는 바와 실제가 일치하는지에 대한 맥락을 제공한다고 설명했다. 출처표기는 허위정보 캠페인을 더 쉽게 탐지하고 선거 무결성을 뒷받침해 디지털 생태계를 보호하는 데도 도움이 된다고 덧붙였다.

이를 위해 오픈AI는 뉴스 기관, 기기 제조사, 온라인 플랫폼, AI 제공사를 아우르는 C2PA 같은 연합체와 협력해 상호운용 가능한 표준을 진전시키고 있다. C2PA 메타데이터는 콘텐츠가 어디서 왔는지, 어떻게 만들어지거나 편집됐는지, 누가 그 정보에 서명했는지를 담는 중요한 토대지만 완벽하지는 않다. 메타데이터는 제거될 수 있고, 업로드·다운로드 과정에서 사라지거나, 파일 형식 변환·크기 조정·스크린샷 같은 변형으로 깨질 수 있다.

오픈AI는 출처표기를 더 견고하게 만들기 위해 여러 신호와 제품 보호장치, 생태계 협력을 결합한 다층 접근을 취한다. 현재 작업으로는 챗GPT와 오픈AI API의 달리 3가 만들고 편집한 이미지에 C2PA 콘텐츠 자격증명을 붙이는 작업이 있으며, 이를 오픈AI 생성 이미지 전반으로 확대하고 있다.

또한 챗GPT·코덱스·오픈AI API로 생성한 이미지에는 C2PA 메타데이터와 신스ID(SynthID) 워터마크가 함께 담긴다. 메타데이터는 더 풍부한 정보를 실을 수 있고, 워터마크는 여러 맥락을 거쳐도 신호를 보존하는 데 도움이 된다. 누구나 지원되는 이미지에 오픈AI 생성 이미지와 연관된 출처 신호가 들어 있는지 확인할 수 있는 공개 검증 도구도 운영한다.

이 밖에 오픈AI는 2024년 소프트웨어 기업, 카메라 제조사, 미디어 기관, 온라인 플랫폼이 참여하는 C2PA 운영위원회에 합류해 공개 표준 개발에 기여하고 있다. 출처표기는 또한 유명인 도용이나 선거 관련 기만 등 AI 생성 콘텐츠의 기만적 사용을 줄이는 정책·분류기·신고 채널·집행 절차를 보완한다.

오픈AI는 출처표기가 유용하지만 아직 초기 단계의 영역이라는 점도 인정했다. 신호는 콘텐츠가 온라인을 거치며 사라질 수 있어 메타데이터는 제거되고 워터마크는 약해지며, 라벨은 사람들이 콘텐츠를 접하는 곳에서만 효과가 있다. 회사는 이 행동강령이 출처표기 기법을 진전시키려는 높은 목표를 담아 올바른 방향을 제시한다면서도, 이행 과정에서 실제로 작동하는 방법에 근거하고 현재 기법의 한계를 반영할 만큼 유연해야 한다고 강조했다. 오픈AI는 자사 제품의 콘텐츠 투명성을 계속 강화하고 상호운용 표준 개발과 검증 도구 개선에 기여하겠다고 밝혔다.