Google、Gemma 4 用 QAT モデルを公開──モバイル向け 2bit 量子化でメモリ消費を 1GB 以下に圧縮
学習段階から量子化を組み込む QAT 手法により、推論精度を維持しつつエッジデバイスでの高速動作と省メモリ化を両立させた。
リリース: 2026-06-05 · 読了 3 分記事の要約
1. 核心（What）
- Gemma 4 E2B モデルをモバイル特化の量子化フォーマットで 1GB 未満まで圧縮
- QAT (Quantization-Aware Training) を採用し、標準的な PTQ よりも高い推論精度を維持
- 2bit 量子化をトークン生成層に適用し、推論速度とメモリ効率を最適化
- llama.cpp、vLLM、Ollama、LM Studio、MLX など主要な推論環境で即時利用可能
2. 影響（Why）
- これまで 4GB 以上の VRAM を要求していたモデルが 1GB 圏内に収まることで、モバイルアプリや低スペックなエッジ端末への LLM 組み込みが現実的な選択肢になる。
- QAT 済みモデルの提供により、開発者が自前で量子化精度を検証する工数を削減し、検証からデプロイまでのリードタイムを短縮できる。
- 開発者への影響: モバイルアプリ開発者は、LiteRT-LM や Transformers.js を用いて、オンデバイスで完結する高精度な推論機能を、従来の数分の一のメモリフットプリントで実装できる。
- 日本への影響: 国内のオンデバイス AI 開発を行う中堅以上のアプリベンダーは、クラウド経由の API 呼び出しに依存しない、低レイテンシかつオフライン動作可能な機能へロードマップを切り替える必要がある。
3. 根拠・詳細（How）
- Gemma 4 QAT models: Optimizing model compression for mobile and laptop efficiency (2026-06-05 公開)