전 OpenAI 직원·안전단체, SpaceX IPO 투자자에 'xAI 안전 부실' 경고

전직 OpenAI 직원 2명과 AI 안전 비영리 단체들이 일론 머스크의 AI 연구소 xAI가 SpaceX 투자자들에게 부담이 될 수 있다고 경고하는 서한을 화요일 공개했다. SpaceX는 월스트리트 역사상 최대 규모가 될 것으로 예상되는 기업공개(IPO)를 준비 중이며, 이번 IPO에서 최대 750억 달러를 조달할 계획이 거론된다.

SpaceX의 사기업 평가액은 지난해 xAI 인수 이후 1조 달러를 넘어섰다. 머스크는 자신의 로켓 회사가 xAI를 위해 데이터센터를 우주로 쏘아올릴 수 있다고 주장했지만, 서한 작성자들은 xAI의 부실한 안전 기록이 IPO 투자설명서를 앞둔 합병 기업에 대한 투자자 평가를 복잡하게 만들 수 있다고 지적했다.

서명자 중에는 전 OpenAI 안전 연구자 Steven Adler와 전 OpenAI 정책 자문 Page Hedley가 공동 설립한 새 비영리 'Guidelight AI Standards'가 포함됐다. 사적 기부자 후원을 받는 이 단체는 프론티어 AI 기업의 안전 관행 개선을 목표로 한다. Legal Advocates for Safe Science and Technology, Encode AI, The Midas Project도 함께 서명에 참여했다.

Hedley는 와이어드 인터뷰에서 xAI의 안전 관행이 OpenAI, 구글 딥마인드, 앤스로픽 등 다른 프론티어 AI 개발사와 비교해 '거의 모든 면에서' 가장 부실하다고 평가했다. 그 결과 SpaceX가 다른 AI 연구소보다 규제와 소송 위험에 더 크게 노출될 수 있다는 주장이다.

서한은 SpaceX가 xAI의 프론티어 AI 모델 개발 지속 여부를 비롯해 여러 사항을 투자자에게 공시할 것을 요구한다. SpaceX는 최근 자사 GPU 용량의 상당 부분을 앤스로픽에 매각하는 계약을 체결했는데, 서한은 이 거래가 'xAI가 더 큰 지주회사 내 프론티어 AI 경쟁자로 남아있는지 불분명하게 만든다'고 지적했다. xAI가 프론티어 모델 개발을 계속한다면 공개적인 안전·거버넌스 계획을 발표해야 한다는 주장도 담겼다.

서한이 든 사례에는 xAI 대표 챗봇 Grok이 응답에서 자발적으로 '백인 학살(white genocide)'을 언급한 사건, Grok이 여성과 아동을 성적으로 묘사한 이미지를 수천 장 생성하도록 허용해 X 플랫폼에 광범위하게 확산된 사건이 포함된다. 후자는 미국 37개 주 법무장관이 머스크의 AI 연구소에 여성·아동 보호 조치를 요구하는 서한을 보낸 단초가 됐다.

Hedley는 xAI가 겪은 안전 사고 수와 그에 따른 규제 관심이 시장점유율에 비해 '과도하다'고 말했다. 서한은 워싱턴포스트 보도를 인용해 1월 기준 xAI에서 안전 업무를 담당하는 인력이 단 '2~3명'뿐이라고 전했다. 트럼프 행정부가 미국 정보기관에 AI 모델 감독 권한을 더 부여하는 행정명령을 검토 중이라는 보도도 함께 언급됐다.

서한은 xAI가 백악관과의 기존 합의를 확대해 AI 모델 공개 배포 전 테스트를 허용하는 등 일부 안전 개선을 했다고 인정하면서도, 투자자가 SpaceX의 AI 안전 리스크를 충분히 평가하려면 더 많은 공시가 필요하다고 강조했다. SpaceX와 xAI는 와이어드의 즉각적인 질의에 답하지 않았다.

Guidelight AI Standards는 AI 연구소가 실제로 따를 수 있는 통일된 벤치마크를 만들고, 정책 입안자·투자자·기자 등 AI 외부 이해관계자가 쉽게 이해할 수 있는 안전 평가를 제공하는 것을 목표로 한다. xAI 관련 이번 서한은 단체의 첫 공개 활동이다. Adler는 2024년 OpenAI에서 사직했고 Hedley는 2019년 OpenAI를 떠났다.