마이크로소프트 깃허브 코파일럿, 토큰당 과금 전환에 '토큰 종말론' 확산

마이크로소프트가 깃허브 코파일럿(GitHub Copilot)의 가격 정책을 정액제에서 토큰당 과금 방식으로 크게 바꿨다. 변화 폭이 워낙 커서 한 레딧 사용자는 자신의 회사에서 이를 '토큰 종말론(Tokenpocalypse)'이라 부르기 시작했다고 전했다.

테크크런치 에쿼티 팟캐스트의 최신 회차에서 커스틴 코로섹, 션 오케인, 앤서니 하는 이 변화가 더 큰 AI 생태계에 어떤 의미를 갖는지 논의했다. 앤스로픽을 비롯한 대형 AI 기업들이 상장을 준비하면서 수익성에 대한 곤란한 질문이 불거지고 있고, 다른 AI 제품들에서도 비슷한 가격 인상과 사용량 제한이 잇따를 가능성이 거론됐다.

앤서니 하는 이 생태계 전체가 투자자 자금으로 심하게 보조되고 있다고 짚었다. 비용이 없는 것처럼 보이는 것들이 실제로는 엄청나게 비싸며, 이제 그 비용이 점점 더 최종 소비자와 고객에게 전가되는 시점에 이르렀다는 것이다. 그는 이런 변화가 행동을 어떻게 바꿀지는 아직 알 수 없지만 '상당한 고통'이 따를 것이라고 말했다.

션 오케인은 우버를 예로 들었다. 우버가 한 달 반 만에 'AI 관련 예산을 생각보다 훨씬 빨리 소진했다'고 했다가, 이내 '너무 비쌀 수 있으니 상한을 두고 사내 사용량을 제한해야 한다'는 입장으로 전체 곡선을 한 바퀴 돌았다는 것이다. 그는 AI 연구소들이 비용을 충분히 낮추고 기술을 진전시켜, 고객의 지출 의향과 중간 어딘가에서 만날 수 있을지가 핵심 질문이라고 봤다.

그는 챗GPT 플러스가 처음 나왔을 때 월 20달러라는 가격에는 별다른 전략이 없었고 '그냥 숫자를 하나 던진 것'에 가까웠다고 회고했다. 사람들이 더 발전된 모델에는 분명 더 많은 돈을 내지만, 그것조차 실제 비용과의 격차를 메우기에는 부족하다는 점이 가장 큰 문제라고 지적했다.

커스틴 코로섹은 이 모든 것이 '얼마나 빠르게 상황이 움직이는지'를 보여준다고 말했다. 이른바 '토큰맥싱(tokenmaxxxing)'이 하나의 흐름으로 떠올라 정점을 찍고 높은 비용 탓에 부정적으로 평가받기까지 약 6개월밖에 걸리지 않았다는 것이다. 가격 메커니즘이 AI 연구소들의 비즈니스 모델이 제대로 자리 잡기도 전에 먼저 굳어졌다는 분석이다.

동시에 정부도 이 속도를 따라잡으려 하고 있다. 같은 주 트럼프 대통령은 강력한 AI 모델을 정부가 검토할 수 있도록 하는, 좁은 범위의 행정명령에 서명했다. 코로섹은 이렇게 눈앞에서 매일 진화하는 위험들을 S-1 IPO 등록 서류의 위험 요인 항목에 어떻게 적어 넣을 수 있겠느냐고 반문했다.

앤서니 하는 우버가 거품 논쟁에서 자주 인용된다고 덧붙였다. 거품을 주장하는 쪽은 이 기업들이 얼마나 적자인지를 들고, 반대쪽은 한때 큰 적자를 봤지만 결국 규모를 키워 격차를 메운 우버를 반례로 든다는 것이다. 다만 그는 우버가 그 지점에 이르기까지 회사 자체를 크게 변모시켜야 했고 그 과정에서 고객과 기사들이 쥐어짜였다며, AI 기업들도 살아남으려면 비슷한 변신이 필요할 것이라고 말했다.

션 오케인은 AI 연구소들이 우버가 수년간 기사들을 쥐어짜낸 것처럼 비용을 짜낼 여지가 있을지는 불확실하다고 봤다. 이쪽의 비용은 더 단순하고 빡빡한 성격이어서 그런 여지가 크지 않아 보인다는 것이다.