AI로 엔비디아 해자 흔든다… Wafer는 칩 코드 최적화, Ricursive는 칩 설계 자동화에 도전

엔비디아는 AI 칩 시장의 절대 강자다. 그러나 자신이 만들어 낸 AI 덕분에, 이 챔피언은 머지않아 점증하는 경쟁에 직면할 수 있다. 현대 AI는 엔비디아 설계 위에서 돌아가고, 이 역학이 엔비디아 시가총액을 4조 달러 이상으로 끌어올렸다. 엔비디아 성공의 한 축은 새 세대 칩마다 프로그래밍을 돕는 소프트웨어를 함께 제공한다는 점인데, 이 차별점이 곧 그렇지 않게 될 가능성이 제기된다.

Wafer라는 스타트업은 AI 모델을 훈련시켜 가장 어렵고 중요한 작업 중 하나, 즉 특정 실리콘 칩에서 코드가 가능한 한 효율적으로 실행되도록 최적화하는 일에 도전한다. 공동창업자 겸 CEO 에밀리오 안데레(Emilio Andere)는 회사가 오픈소스 모델에 강화학습(RL)을 적용해 운영체제에서 하드웨어와 직접 상호작용하는 커널 코드(kernel code)를 작성하도록 가르치고 있다고 설명했다. Wafer는 또한 Anthropic의 Claude나 OpenAI의 GPT 같은 기존 코딩 모델에 '에이전틱 하네스(agentic harnesses)'를 덧붙여 칩 위에서 직접 실행되는 코드를 작성하는 능력을 강화한다.

현재 다수의 빅테크가 자체 칩을 보유하고 있다. 애플 등은 수년째 노트북·태블릿·스마트폰의 성능과 효율을 높이기 위해 커스텀 실리콘을 사용해 왔고, 다른 한쪽 끝에서는 구글과 아마존이 클라우드 컴퓨팅 플랫폼 성능을 높이기 위해 직접 실리콘을 만든다. 메타는 최근 브로드컴(Broadcom)과 함께 개발한 새 칩으로 1 기가와트 규모의 컴퓨트 용량을 배치하겠다고 밝혔다. 커스텀 실리콘 배치에는 새 프로세서에서 부드럽고 효율적으로 돌아가도록 많은 코드를 작성해야 한다.

Wafer는 AMD, 아마존을 포함한 기업들과 협업해 자사 하드웨어 위에서 소프트웨어가 효율적으로 동작하도록 최적화 작업을 진행 중이다. 이 스타트업은 지금까지 구글의 제프 딘(Jeff Dean), OpenAI의 보이체흐 자렘바(Wojciech Zaremba) 등으로부터 시드 라운드에서 400만 달러를 조달했다.

안데레는 자사의 AI 주도 접근이 엔비디아의 지배력에 도전할 잠재력이 있다고 본다. "최고의 AMD 하드웨어, 최고의 (아마존) Trainium 하드웨어, 최고의 (구글) TPU는 엔비디아 GPU와 동일한 이론적 플롭(flops)을 제공한다"며 "우리는 와트당 지능을 극대화하고자 한다"고 말했다. 또한 칩에서 코드를 안정적이고 효율적으로 돌리는 데 필요한 성능 엔지니어들이 비싸고 수요가 높다는 점, 엔비디아의 소프트웨어 생태계가 코드 작성·유지를 더 쉽게 해 준다는 점이 가장 큰 테크 기업조차 단독 노선을 어렵게 만든다고 지적했다.

예컨대 Anthropic이 자사 AI 모델을 아마존 Trainium 위에서 만들기 위해 아마존과 협력했을 때, 모델 코드를 처음부터 다시 작성해 하드웨어에서 가능한 한 효율적으로 동작하도록 해야 했다고 안데레는 전했다. 그러나 Anthropic의 Claude 자체가 코드 작성에 인간 이상의 능력을 보이는 다수의 AI 모델 중 하나가 된 만큼, AI가 엔비디아의 소프트웨어 우위를 침식하기 시작하는 데까지는 머지않을 수 있다는 게 그의 견해다. "해자는 칩의 프로그래밍 가능성에 있다. 그것이 정말 강한 해자인지 다시 생각할 때라고 본다"고 말했다.

다른 한편에서는 칩 설계 자체를 AI로 자동화하려는 시도도 진행 중이다. 두 명의 전 구글 엔지니어 아잘리아 미르호세이니(Azalia Mirhoseini)와 안나 골디(Anna Goldie)가 창업한 Ricursive Intelligence가 그 예다. 두 사람은 구글 재직 시절 컴퓨터 칩의 핵심 부품 배치를 AI로 최적화하는 방식을 개발했고, 이 접근은 구글 자체 프로세서 설계 방식을 바꾸어 놓았으며 현재 산업 전반에서 다양한 칩의 피처 배치를 돕는 데 폭넓게 사용되고 있다.

스탠퍼드대학교 조교수이기도 한 미르호세이니는 "우리는 칩 설계의 long poles, 즉 물리 설계(physical design)와 디자인 검증(design verification)을 공략하고 있다"고 말했다. Ricursive는 더 나아가 칩 설계의 더 많은 요소를 자동화하고 대규모 언어 모델을 설계 과정에 통합해, 엔지니어가 자연어로 칩에 대해 변경을 지시하거나 질문을 던질 수 있도록 하는 것을 목표로 한다. 앱을 '바이브 코딩'할 수 있게 된 것처럼, 결국에는 칩을 '바이브 디자인'하는 일이 가능해질 수도 있다는 비유다.

Ricursive는 아직 기술을 개발 중이지만 미르호세이니에 따르면 칩 설계의 더 많은 측면을 최적화할 수 있음을 이미 보여 주었다. 이런 자동화 전망은 일부 투자자들의 식욕을 자극했고, Ricursive는 단 몇 달 만에 40억 달러 기업가치 평가로 3억 3500만 달러를 조달했다.

골디는 궁극적으로 AI가 칩과 알고리즘을 함께 코디자인해 더 강력하게 만드는 일이 가능해질 수 있다고 본다. 그는 "AI가 자기 자신의 실리콘과 코드를 조정하게 함으로써 일종의 재귀적 AI 개선을 형성할 수 있다"며 "우리는 더 많은 컴퓨트를 들여 더 빠르고 더 좋은 칩을 설계할 수 있는 새로운 영역, 즉 칩 설계의 스케일링 법칙으로 들어가고 있다"고 말했다.