마이크로소프트, NCII 차단 위해 PhotoDNA 해시 검사 4개 서비스로 확대

마이크로소프트가 비합의 친밀 이미지(NCII, non-consensual intimate imagery) 대응을 확대한다고 공식 블로그에 밝혔다. 미국 'Take It Down Act'가 이달 발효되며 NCII 확산을 막는 새 연방 보호 장치가 도입된 데 맞춰, 보고 절차와 탐지 기술, 집행 체계를 함께 정비한다는 설명이다.

우선 신고 양식이 단순화된다. 마이크로소프트는 글로벌 NCII 신고 양식을 더 직관적인 형태로 개편했고, 피해 유형을 명확히 선택할 수 있도록 실사 이미지와 AI 생성 이미지를 모두 명시적인 선택지로 포함했다. 회사는 이미지가 어떻게 만들어졌든 개인이 입는 피해는 동일하다는 인식 아래, NCII 정책을 실사 콘텐츠와 합성 콘텐츠에 일관되게 적용한다고 강조했다.

사용자는 마이크로소프트 서비스 내에서 'Report A Concern' 버튼을 누르거나, 콘텐츠를 마주한 제품 자체에서 직접 신고할 수 있다.

능동 탐지 측면에서는 StopNCII.org와의 협력이 확대된다. StopNCII.org는 피해자가 자신의 이미지를 디지털 지문(해시) 형태로 등록해 두면 파트너 플랫폼들이 일치하는 콘텐츠를 탐지·삭제할 수 있도록 돕는 신고 플랫폼이다. 마이크로소프트는 2년 전 이미지가 기기를 떠나지 않고도 해시를 생성할 수 있는 새 버전의 PhotoDNA를 StopNCII.org에 제공한 바 있다.

회사는 해당 해시를 2024년 9월부터 빙(Bing)에서 시범 적용해 왔고, 이번에 적용 범위를 팀스 프리(Teams Free), 원드라이브(OneDrive), 엑스박스(Xbox) 등 마이크로소프트 소비자 서비스 전반으로 확대한다고 밝혔다. 자동화가 적절한 부분은 자동화하되 신고된 사례에는 사람의 검토를 유지하고, 사용자에게는 결정에 대한 명확한 항고 경로를 제공하겠다고 덧붙였다.

정책 차원에서는 미국 'Take It Down Act' 입법을 지지해 왔다고 회사는 밝혔다. 유럽연합(EU)의 '누디피케이션(nudification)' 앱 대응 강화 작업, 영국 정보통신청 Ofcom이 영국 온라인 안전법(UK Online Safety Act) 아래 불법 NCII 대응을 위한 신규 조치를 예고한 점도 주시하고 있다고 회사는 덧붙였다.

교육 영역에서는 영국 비영리단체 Childnet과 손잡고 청소년이 AI를 악용해 친밀 이미지를 만들지 못하도록 하는 교육 자료를 영국에서 배포했고, 싱가포르·한국·일본에서도 현지 파트너와 함께 이를 현지화해 공개했다고 밝혔다.

마이크로소프트는 "이미지 기반 학대로 피해를 입은 사람들에게는 속도, 명확성, 신뢰가 중요하다"며 "도움을 요청하는 사람에게 신속하고 정중하게 응답하고, 동시에 피해 발생 가능성 자체를 줄이는 기술과 협력에 투자하겠다"고 밝혔다.