RSI는 새로운 AGI…정의도 도달 시점도 합의 못 본 AI 업계 새 화두
'재귀(recursion)'가 최근 AI 업계의 새 유행어로 떠오르고 있다. 같은 이름을 단 스타트업이 두 곳 등장했고, 더 많은 회사가 로드맵에 'Recursive self-improvement(RSI, 재귀 자기개선)'를 끼워 넣기 시작했다. 한때 AGI가 그랬듯, RSI는 AI 도약을 상징하는 세 글자 약어로 자리 잡고 있다 — 정확히 무슨 뜻인지는 아직 합의되지 않았는데도.
RSI는 기본적으로 AI 시스템이 스스로를 계속 업그레이드한다는 개념이다. AI가 업그레이드 사이클을 인간보다 잘 관리하게 되면, 이 과정은 닫힌 루프가 되어 사용 가능한 컴퓨트만이 한계가 되고 인간은 더 이상 필요하지도, 도움이 되지도 않는다.
이달 초 유명 AI 연구자 Richard Socher는 이름부터 노골적인 Recursive Superintelligence를 출범시켰다. 그는 출범 당시 테크크런치에 "우리의 핵심은 진정으로 재귀적이고 스스로 개선되는 초지능을 대규모로 만드는 것"이라며 "연구 아이디어의 발상, 구현, 검증 전 과정이 자동화돼야 한다"고 말했다.
Tesla와 OpenAI를 거친 Alex Karpathy는 에이전트 스웜으로 LLM을 단순 과제에 학습시키는 Auto-Research 프로젝트를 진행 중이다. 그는 트위터로 마일스톤을 꾸준히 공유하고 공개 GitHub 저장소로 빌딩블록을 풀어놓고 있다. 지금까지의 작업은 GPT-2 규모 모델을 소폭 개선하는 데 그쳤고, 카르파시는 3월 "아직 새롭고 획기적인 '연구'는 아니다"라고 적었다. 현재 그는 Anthropic에서 프리트레이닝을 맡아 같은 아이디어를 더 큰 규모로 적용할 기회를 얻었다.
Cohere와 Google 출신 Sara Hooker가 세운 Adaption은 프런티어 학습 자동화를 노린 AutoScientist를 최근 공개했다. Disarray 창업자 Doris Xin은 자체 학습 ML 에이전트가 최근 Kaggle 대회에서 메달 28개를 따며 RSI 관심을 모았다. 그는 "무한한 컴퓨트와 무한한 시간만 있다면 우리는 이미 도달해 있다"며 "이건 창의적 작업이 아니라 그저 평범한 엔지니어링의 누적"이라고 말했다.
그러나 업계가 의미 있는 재귀 시스템에 가까이 와 있지 않다는 정황도 분명하다. Google CEO Sundar Pichai는 최근 팟캐스트에서 "연속선상이고 우리 모두 분명 진전하고 있다"면서도 "사람들이 묘사하는 R.S.I.는 다음 단계의 가속을 뜻하고 함의도 크지만, 우리는 아직 거기에 도달하지 않았다"고 말했다.
다만 그 연속선 위에는 이미 자기개선적 AI 시스템이 적지 않다. 1월에는 Anthropic의 Claude Code 리드 프로그래머 중 한 명이 자기 팀 코드의 "100%에 가까운" 부분이 도구로 작성된다고 추산했다. Mythos 프리뷰와 연계된 최근 설문에서는 Anthropic 엔지니어 18명 중 5명이 하니스(harness)가 개선되면 이 버전의 Mythos가 곧 L4 엔지니어, 즉 감독 없이 중간 규모 프로젝트를 맡을 수 있는 중급 프로그래머를 대체할 수 있다고 봤다.
다만 같은 보고서는 Mythos의 약점으로 1주짜리 모호한 과제의 자체관리, 조직 우선순위 이해, 취향, 검증, 지시 준수, 인식론(epistemics) 등을 꼽았다. 자기 방향성과 관련된 거의 모든 영역이며, 바로 RSI의 핵심이다.
그래서 업계는 RSI까지의 거리가 얼마인지 답하지 못한다. 지난해 Georgetown CSET가 전문가 그룹을 모아 RSI를 연구한 결과, 평가는 크게 갈렸다. 임박한 '초지능' 폭발을 기대한 쪽과 더 느린 진행 끝의 정체를 본 쪽으로 나뉘었지만, 재귀가 미래를 특히 예측 불가능하게 만든다는 점에는 모두 동의했다. CSET 소장이자 전 OpenAI 이사회 멤버 Helen Toner는 "그들은 가능한 모든 곳에 AI를 쓰고 있을 뿐이며, 그건 인간이 필요 없다는 RSI의 고전적 정의와는 다르다"고 짚었다.
Toner는 METR의 Ajeya Cotra가 제시한 AI 연구 전환 마일스톤을 인용했다. Cotra는 인간이 모두 빠져도 시스템이 연구를 수행할 수 있는 단계를 'adequacy(충분)', AI-only 체제가 인간-only 체제만큼 잘하는 단계를 'parity(동등)', AI-only가 인간-AI 협업 체제보다 더 나은 단계를 'supremacy(우위)'라고 불렀다. 그는 'adequacy 마일스톤이 이미 지났다고 해도 크게 놀라지 않을 것'이라며 향후 수년 내 발생을 예상했고, parity에 닿으면 '1년 안에 supremacy로 가속될 것'이라고 적었다. Toner는 컴퓨팅이 머신어에서 어셈블리, 컴파일 언어로 이행하며 인간이 점점 멀어졌지만 여전히 직관적으로는 위에서 운영해 왔다는 비유로, 연구 전 과정을 넘기는 일에 더 큰 공학·정렬 과제가 남아 있음을 강조했다.