📜Papers🔥🔥

Google、Gemma 4 モデルシリーズを発表──2.3Bから31BのMoE構成で推論とマルチモーダル性能を強化

推論トレース生成機能と音声・画像入力を統合し、12Bモデルではエンコーダーレスのネイティブマルチモーダルアーキテクチャを採用した。
リリース: 2026-07-02 · 読了 3

記事の要約

1. 核心(What)

  • Gemma 4 シリーズとして 2.3B から 31B パラメータまでのモデル群を公開
  • 全サイズで視覚および音声エンコーダーを刷新し、12B モデルではエンコーダーレスのネイティブ処理を実現
  • 推論時に思考プロセス(reasoning traces)を出力する「thinking mode」を統合
  • STEM、マルチモーダル、長文脈ベンチマークにおいて既存のオープンモデルを上回る性能を記録

2. 影響(Why)

  • 推論コストの構造的変化: 2.3B から 31B までの MoE 構成により、オンプレミスやエッジ環境で実行可能なモデルの推論効率が向上。商用 API 依存を避けたいプロダクトにおいて、ローカル推論の選択肢が大幅に広がる。
  • 国内 SaaS のマルチモーダル対応: 国内の [Vertical SaaS 規模感] の事業者にとって、音声・画像をネイティブに処理する 12B モデルの登場は、高額なクラウド API を介さず自社環境で高度な解析パイプラインを構築する契機となる。

3. 根拠・詳細(How)

  • エンコーダーレスアーキテクチャ: 12B モデルにおいて、音声および画像のパッチを直接入力として受け取る構成を採用。従来のエンコーダー依存型と比較し、マルチモーダル処理における中間変換のオーバーヘッドを削減した。
  • 思考プロセスの統合: モデルの応答生成前に reasoning traces を出力する thinking mode を実装。STEM タスクにおける推論精度を向上させ、複雑な論理的タスクでの誤答率を低減する設計となっている。

4. 展望・課題(Next)

  • 長文脈処理の検証: 設計上の選択により長文脈能力を強化しているが、具体的なトークンウィンドウの限界値や、実務環境での長文脈保持率については追加の検証が必要。