OpenAI, G7 정상회의 앞두고 국제 청소년 AI 안전기구 설립 촉구

OpenAI가 청소년의 AI 안전을 전담하는 국제 안전기구를 만들자고 공식 제안했다. AI가 어려운 개념을 이해하고, 외국어를 연습하고, 면접을 준비하고, 창의적 아이디어를 탐색하고, 새 기술을 배우는 등 젊은 세대에게 강력한 도구가 될 수 있는 만큼, 안전하고 연령에 맞으며 건강한 발달을 돕는 방식으로 AI에 접근할 수 있어야 한다는 것이다. OpenAI는 20세기 중반 전 세계로 퍼진 문해 운동에 빗대며, 안전한 AI 접근이 맞춤형 학습과 소외 계층의 장벽 완화, 노동시장 준비를 위한 새 기회를 열 것이라고 밝혔다.

OpenAI는 이 책임이 주로 부모나 청소년 본인에게 떨어져서는 안 되며, OpenAI를 포함한 기업이 기본값으로 적절한 안전장치를 갖춘 제품을 만들고 가정에는 AI 사용을 안내할 도구와 정보를 제공할 책임이 있다고 강조했다.

이달 말 프랑스 에비앙에서 열리는 G7 정상회의에서 청소년 AI 안전이 핵심 의제로 다뤄질 예정이며, OpenAI도 참석해 협력 확대와 업계 기준 상향, 그리고 국제 청소년 안전기구 설립 제안을 논의한다. OpenAI는 정상회의가 청소년 안전을 위한 드문 국제 공조의 기회이지만, 전담 기구가 있어야 단발성 회의를 넘어 정부·연구자·시민사회·산업계가 증거를 공유하고 지침을 만들며 기준을 지속적으로 끌어올릴 수 있다고 봤다.

기구는 새로운 국제 기관을 세우거나, 기존 또는 새로 만든 국가 AI 기관에 전 세계 파트너와 연구·증거·지침을 공유하는 국제적 권한을 부여하는 방식 등 여러 방법이 가능하다고 OpenAI는 설명했다. 무엇보다 중요한 것은 기구가 수행하는 기능이며, 청소년 AI 안전에는 지속적인 관심과 신뢰할 수 있는 증거, 기술 발전을 따라잡는 실용적 지침이 필요하다고 덧붙였다.

이런 기구는 OpenAI 재단이 지원하는 커먼센스미디어의 청소년 AI 안전기구, 미국교사연맹과의 협업 같은 기존 움직임 위에 세울 수 있다. 또 OpenAI가 스탠퍼드·에스토니아 연구진과 함께 영향을 분석 중인 에스토니아의 학교 ChatGPT 전국 도입 사례처럼 실제 현장 적용에서 배워야 한다고 강조했다.

OpenAI는 G7 합의에 담길 수 있는 청소년 안전 프레임워크가 따라야 할 원칙들도 제시했다. 기업은 사용자가 미성년자인지 알 수 있어야 하고, 프라이버시를 지키는 연령 추정 같은 수단으로 미성년자와 성인을 구분하며 연령을 확정할 수 없을 때는 보호 장치를 기본값으로 적용해야 한다. 또 매년 청소년 안전 위험 평가를 실시하고 위험에 비례하는 안전장치를 마련하되, 잠재적 피해뿐 아니라 학습·창의성·기술 개발 같은 긍정적 효과도 함께 살펴야 한다고 밝혔다.

부모와 보호자에게는 메모리, 데이터 사용, 이용 시간 같은 핵심 설정을 관리할 수 있는 쉬운 도구를 제공하고 이를 적극 알려야 하며, 기업은 어떤 안전장치를 두고 있는지 안전 정책을 공개해야 한다. 자해, 착취, 그루밍, 성적 착취 콘텐츠 같은 심각한 상황에 대비한 명확한 대응 절차와 서비스 내 지원, 적절한 경우 부모 통지도 갖춰야 한다고 OpenAI는 제안했다.

이 밖에 AI는 학습과 발달, 실제 인간관계를 대체하지 않고 돕도록 설계돼야 하고, 미성년자의 개인정보를 보호해 표적 광고와 개인정보 판매를 금지해야 하며, 기회와 문해력, 보호를 함께 촉진해야 한다고 밝혔다. 또 독립 감사를 비롯한 강력한 책임 장치와 관할권을 넘나드는 공통 기준이 필요하다고 강조했다.

OpenAI는 이러한 원칙이 ChatGPT를 만들고 운영하는 방식에 이미 반영돼 있다며, 18세 미만 사용자를 위한 안전장치를 강화하고 능동적 알림이 포함된 부모 통제 기능을 도입했으며 연령 예측 시스템을 고도화했다고 밝혔다. 모델의 행동 방식을 규정한 모델 스펙(Model Spec)에도 18세 미만을 위한 전용 원칙을 담아 자해, 위험 행동, 자극적 콘텐츠, 신체 이미지 등에 더 강한 가드레일을 두고, 연령이 불확실하면 더 강한 보호를 기본값으로 적용한다고 설명했다.