구글, 16GB 노트북서 돌아가는 오픈 AI 모델 '젬마 4 12B' 공개

구글이 일반 소비자용 노트북에서도 구동할 수 있는 새 오픈 AI 모델 '젬마 4 12B'를 공개했다. 생성형 AI 붐으로 메모리 가격이 크게 치솟은 가운데, 비교적 RAM을 적게 쓰는 로컬 실행용 모델을 내놓은 것이다.

젬마 4 12B는 120억 개 파라미터를 가진 모델로, 16GB의 시스템 RAM이나 VRAM을 갖춘 컴퓨터라면 구동할 수 있다. 구글은 이 모델이 품질을 희생하지 않으면서도 다수의 소비자용 노트북에서 돌아간다는 점이 독특하다고 설명했다.

로컬에서 실행하기 위해 2만 달러짜리 AI 가속기가 필요하지 않다는 점도 구글이 내세운 강점이다. 모바일용 모델보다는 훨씬 뛰어난 성능을 갖췄다는 설명이다.

이번 모델은 구글이 올해 4월 공개한 젬마 4 제품군에서 비어 있던 중간 영역을 메운다. 당시 구글은 모바일에 최적화된 E2B·E4B 두 종과, 보다 본격적인 작업을 위한 26B MoE 및 31B Dense 모델까지 네 가지를 함께 선보였는데, 그 사이에 상당한 공백이 남아 있었다.

신모델의 전체 메모리 사용량은 젬마 4 26B MoE의 약 절반 수준이다. 그럼에도 구글은 적어도 벤치마크상으로는 26B MoE에 거의 맞먹는 성능을 낸다고 주장했다.

한편 젬마 4 제품군은 올해 4월부터 보다 개방적인 아파치 2.0 라이선스로 전환됐다. 노트북에서 직접 돌릴 수 있는 12B 모델이 더해지면서 구글의 온디바이스 AI 선택지는 한층 넓어지게 됐다.