구글, 온디바이스 AI 앱 AI Edge Gallery 공개… Gemma 4 탑재해 오프라인 LLM 구동

구글이 오픈소스 대규모 언어 모델(LLM)을 모바일 기기에서 직접 실행할 수 있는 앱 'AI Edge Gallery'를 공개했다. 이 앱은 Google Play와 App Store에서 다운로드할 수 있으며, Android 12 이상과 iOS 17 이상을 지원한다.

AI Edge Gallery의 핵심은 최신 Gemma 4 모델 공식 지원이다. 사용자는 서버 연결 없이 기기 하드웨어만으로 고급 추론, 논리, 창작 등의 AI 기능을 체험할 수 있다. 구글은 이를 "온디바이스 생성형 AI의 미래를 탐색하고 체험하고 평가하는" 앱으로 소개했다.

주요 기능으로는 Agent Skills, AI Chat with Thinking Mode, Ask Image, Audio Scribe, Prompt Lab, Mobile Actions 등이 포함된다. Agent Skills는 LLM에 위키피디아 팩트 그라운딩, 인터랙티브 지도, 비주얼 요약 카드 등의 도구를 연결해 대화형 AI를 능동적 어시스턴트로 확장한다. 사용자는 URL로 모듈형 스킬을 로드하거나 GitHub Discussions에서 커뮤니티 기여를 탐색할 수도 있다.

Thinking Mode는 Gemma 4 모델에서 지원되며, 모델의 단계별 추론 과정을 실시간으로 확인할 수 있다. Ask Image 기능은 기기 카메라나 사진 갤러리를 활용해 객체 식별, 시각 퍼즐 해결, 상세 설명 생성 등 멀티모달 AI를 제공한다.

Audio Scribe는 온디바이스 언어 모델을 활용해 음성 녹음을 실시간으로 텍스트로 변환하고 번역하는 기능이다. Mobile Actions는 FunctionGemma 270m 파인튜닝 모델을 기반으로 오프라인 기기 제어와 자동화 작업을 수행한다. Tiny Garden이라는 자연어 기반 미니게임도 제공된다.

사용자는 제공된 모델 목록에서 다운로드하거나 커스텀 모델을 직접 로드할 수 있으며, 벤치마크 테스트를 통해 각 모델의 기기별 성능을 확인할 수 있다.

모든 모델 추론은 기기 하드웨어에서 직접 수행되며 인터넷 연결이 필요 없다. 사용자의 프롬프트, 이미지, 민감한 데이터가 외부로 전송되지 않아 완전한 프라이버시가 보장된다. 이 앱은 Apache License 2.0으로 공개되었으며, GitHub에서 18,613개의 스타를 기록하고 있다.