앤스로픽, Claude Code에 '오토 모드' 도입… 자율성과 안전성 사이 균형 모색

앤스로픽(Anthropic)이 자사 AI 코딩 도구인 Claude Code에 '오토 모드(auto mode)'를 새롭게 도입했다. 이 기능은 AI가 사용자를 대신해 권한 수준의 결정을 내릴 수 있도록 하면서도, 위험한 작업은 사전에 차단하는 중간 지점을 제공한다.

Claude Code는 사용자를 대신해 독립적으로 작업을 수행할 수 있는 AI 에이전트다. 그러나 이러한 자율성에는 파일 삭제, 민감한 데이터 전송, 악성 코드 실행 등의 위험이 따른다. 오토 모드는 이러한 위험한 작업을 실행 전에 감지하고 차단하도록 설계되었다.

앤스로픽은 이 기능이 '바이브 코더(vibe coder)'들에게 더 안전한 대안을 제공한다고 설명했다. 사용자가 매번 일일이 승인하는 방식과 AI에게 위험한 수준의 자율권을 부여하는 방식 사이에서 균형점을 찾은 것이다.

오토 모드가 잠재적으로 위험한 작업을 감지하면, 해당 작업을 차단하고 AI 에이전트에게 다른 방법을 시도하거나 사용자에게 개입을 요청할 기회를 제공한다.

현재 오토 모드는 Team 플랜 사용자를 대상으로 한 리서치 프리뷰로만 제공되고 있다. 앤스로픽은 향후 며칠 내에 Enterprise 및 API 사용자로 접근 범위를 확대할 계획이라고 밝혔다.

다만 앤스로픽은 이 도구가 실험적이며 위험을 완전히 제거하지는 못한다고 경고했다. 개발자들에게는 '격리된 환경(isolated environments)'에서 사용할 것을 권장하고 있다.