캘리포니아 의원, 아동용 장난감 AI 챗봇 4년간 금지 법안 발의

캘리포니아주 상원의원 스티브 파딜라(Steve Padilla)가 아동용 장난감에 AI 챗봇을 탑재하는 것을 4년간 금지하는 법안 SB 287을 발의했다. 이 법안은 적절한 안전 규정이 마련될 때까지 AI 인터랙티브 기능을 탑재한 아동용 장난감의 상용화를 유예하는 모라토리엄(moratorium)을 핵심 내용으로 담고 있다. 파딜라 의원은 "우리 아이들이 빅테크의 실험용 쥐가 될 수 없다"며 법안 발의 배경을 밝혔다.

이번 법안은 AI 기술이 광범위하게 확산된 후 사후적으로 규제하는 기존 접근 방식에서 벗어나, 사전 예방적 입법 조치를 취한다는 점에서 주목받고 있다. 현재 미국을 비롯한 대부분의 국가에서는 새로운 기술이 시장에 출시되고 문제점이 드러난 후에야 규제를 도입하는 경향이 있었다. 하지만 SB 287은 잠재적 위험성이 있는 기술에 대해서는 안전성이 충분히 검증될 때까지 도입을 늦추는 방식을 택했다.

AI 챗봇이 탑재된 아동용 장난감에 대한 우려는 크게 두 가지 측면에서 제기되고 있다. 첫째는 아동의 인지 및 정서 발달에 미치는 영향이다. AI와의 상호작용이 아동의 사회성 발달, 언어 습득, 감정 조절 능력 등에 어떤 영향을 미치는지에 대한 장기적 연구가 아직 부족한 상황이다. 둘째는 데이터 프라이버시 문제로, AI 챗봇은 아동과의 대화 내용을 수집하고 분석하는데, 이러한 민감한 개인정보가 어떻게 활용되고 보호될 것인지에 대한 우려가 크다.

파딜라 의원은 이번 4년간의 유예 기간이 정책 입안자들에게 적절한 안전 프레임워크를 수립할 충분한 시간을 제공할 것이라고 설명했다. 이 기간 동안 전문가들은 AI 시스템이 아동에게 미치는 영향에 대한 연구를 진행하고, 업계는 안전 기준을 개발하며, 입법부는 포괄적인 규제 체계를 마련할 수 있게 된다. 단순히 기술 발전을 막는 것이 아니라, 안전하고 책임 있는 방식으로 기술이 도입되도록 준비 시간을 확보하는 것이 목적이다.

이번 법안은 캘리포니아주가 기술 규제 분야에서 다시 한 번 선도적 역할을 하고 있음을 보여준다. 캘리포니아는 이미 아동 온라인 프라이버시 보호법(COPPA) 강화, 소셜미디어 플랫폼의 아동 보호 의무 강화 등 다양한 디지털 안전 법안을 통과시킨 바 있다. 특히 실리콘밸리를 품고 있는 주로서, 기술 혁신과 공공 안전 사이의 균형점을 찾기 위한 노력을 지속해왔다.

업계의 반응은 엇갈릴 것으로 예상된다. 일부 기술 기업들은 이러한 규제가 혁신을 저해하고 미국 기업의 글로벌 경쟁력을 약화시킬 수 있다고 우려할 것이다. 반면 아동 권리 옹호 단체들과 학부모 그룹은 이번 법안을 환영하며, 다른 주들도 유사한 입법 조치를 취할 것을 촉구할 가능성이 높다. SB 287의 통과 여부와 실제 시행 과정은 향후 AI 기술과 아동 보호 정책의 방향을 결정하는 중요한 선례가 될 전망이다.

전문가들은 이번 법안이 단순히 장난감 산업에만 영향을 미치는 것이 아니라, AI 윤리와 규제에 대한 더 광범위한 논의의 출발점이 될 수 있다고 지적한다. 취약한 사용자 그룹, 특히 아동을 대상으로 하는 AI 시스템에 대해서는 더 높은 수준의 안전 기준과 윤리적 검토가 필요하다는 인식이 확산되고 있기 때문이다. 캘리포니아의 이번 시도가 성공할 경우, 교육용 AI, 의료용 AI 등 다른 분야에서도 유사한 예방적 규제 접근이 확대될 수 있을 것으로 보인다.