앤스로픽 아모데이, 규제가 AI 발전 속도 못 따라간다며 정책 에세이로 가속 촉구

다리오 아모데이 앤스로픽 CEO가 새 정책 에세이 '지수함수적 AI 시대의 정책(Policy on the AI Exponential)'을 내고, AI 규제가 업계의 '번개 같은 속도'를 따라잡으려면 훨씬 빨라져야 한다고 촉구했다. 에세이는 AI 테스트와 고용 충격에 관한 정책 제안과 함께 발표됐다.

아모데이는 글머리에서 워싱턴을 영화 '반지의 제왕'에 나오는 나무 종족 트리비어드에 빗댔다. 인사 한 번 건네는 데 하루가 걸릴 만큼 느린 나무처럼, 정책이 '나무의 속도'로 움직여서는 안 된다는 비유다.

이런 주장의 배경에는 앤스로픽의 최근 행보가 있다. 회사는 지난 한 주 사이 스스로 성능을 개선하는 AI를 본격 가동했고, 업계에서 가장 강력한 모델을 내놨다. 아모데이는 이제 위험이 더 이상 이론에 그치지 않는다고 강조했다.

그는 클로드 미토스 프리뷰가 보인 해킹 위험을 중대한 분기점으로 꼽으며, 프런티어 모델이 "전 세계적·국가적으로 전략적 중요성을 지닌 도구"가 됐다고 평가했다.

아모데이는 규제 당국이 프런티어 모델의 가동을 멈춰 세울 권한을 가져야 한다고 봤다. 이를 위해 모델을 네 개 위험 영역에 걸쳐 독립적으로 심사받도록 하는 체계를 제안했다.

고용 분야에서는 전례 없는 실업에 여러 층위로 대비하는 틀을 제시했다. 여기에는 AI 기업의 지분을 담은 투자 계좌와 기본소득(UBI) 같은 방안이 포함됐다.

이 밖에도 AI가 설계한 신약의 승인 가속, 자율무기에 대한 제한과 금지, 첨단 반도체 수출 통제 강화 등을 요구 사항으로 담았다.

시장 선두 기업이 "나를 더 강하게 규제하라"고 말하는 것은 회의론자에게는 진정성 없게 비칠 수 있다. 다만 아모데이는 한동안 꾸준히 경고음을 내왔고, 새 모델이 나올 때마다 그가 말하는 시급성도 함께 커지고 있다.