앤스로픽, AI가 스스로를 개선하는 'RSI' 보고서 공개…코드 80%가 클로드 작성

앤스로픽이 인공지능이 스스로를 개선하는 '재귀적 자기개선(RSI, recursive self-improvement)' 시스템을 다룬 보고서 '언제 AI가 스스로를 만드는가(When AI builds itself)'를 공개했다. 보고서는 클로드가 코딩 작업을 빠르게 떠맡고 있다는 내부 데이터를 인용하며, 완전히 스스로 개선하는 AI가 사회 제도가 준비되기 전에 도래할 수 있다고 경고했다.

앤스로픽은 RSI가 아직 현실이 아니며 필연적인 것도 아니라고 선을 그으면서도, 클로드가 우리가 생각했던 것보다 빠르게 AI 개발을 진전시키고 있다고 밝혔다.

보고서에 따르면 5월 기준 앤스로픽이 병합한 코드의 80% 이상을 클로드가 작성했다. 엔지니어들은 2026년 2분기에 2024년 대비 하루에 8배 많은 코드를 반영하고 있다.

공동 저자인 잭 클라크는 이 추세가 향하는 지점을 두고 클로드의 각 새 버전이 사람의 개입 없이 이전 버전에 의해 만들어질 수 있다고 적었다.

OpenAI도 이번 주 '프런티어 AI의 민주적 거버넌스(Democratic Governance of Frontier AI)' 청사진에서 같은 순환 고리를 지적하며, 오늘날의 시스템에서 RSI의 첫 불씨가 보인다고 언급했다.

앤스로픽은 동종 연구소들이 그렇게 한다면 자사도 프런티어 AI 개발 속도를 늦추거나 멈추겠다고 밝혔으며, 향후 몇 달간 관련 연구와 시스템, 시나리오를 논의하는 정책 대화를 진행할 계획이라고 했다.

RSI를 체감하는 것은 앤스로픽과 OpenAI만이 아니다. 미니맥스는 자사 M2.7 모델이 스스로를 만드는 데 도움을 줬다고 밝혔고, 자기개선 순환에 특화된 신생 스타트업도 곳곳에서 생겨나고 있다. 다만 전 세계적 공조에 기댄 개발 중단 시나리오가 현실적으로 가능할지는 가늠하기 어렵다.