Mistral AI、1 兆パラメータのモデル Mistral Large 4 を発表──4 基の GPU で動く MoE と独自マルチモーダル
1 兆パラメータのうち 49B をアクティブ化する MoE 構造を採用し、仏データセンターの 4,000 基の GPU で効率的な事前学習を実現した。
リリース: 2026-10-06 · 読了 4 分記事の要約
1. 核心（What）
- Mistral AI は総パラメータ数 1 兆、アクティブ 49B の Mixture-of-Experts モデル Mistral Large 4 を発表した。
- 仏国内の 4,000 基の Nvidia Grace Blackwell GPU（約 10 MW）を用い、中国系ラボの 2-3 分の 1 の計算量で事前学習を実施した。
- FP8 および FP4 の量子化済みオープンウェイトを 10 月 27 日に公開予定であり、現在は API プレビューが提供されている。
- 法務、金融、地理空間解析、サイバーセキュリティのドメインで高い性能を示す一方で、エージェントコーディングベンチマークでは他社モデルを下回る。
2. 影響（Why）
- 欧州でのオンプレミス運用: データ主権や厳格な規制を意識する欧州の金融・製造業にとって、VPC 内や自社インフラで動かせる 1 兆パラメータ級モデルの選択肢になる。
- サイバーセキュリティ評価の自社完結: 商用 API でブロックされがちなセキュリティ関連の検証を、自己ホスティング環境で直接実施したいインフラ事業者や防御チームのニーズを満たす。
- 国内エンタープライズのドメイン特化検証: 国内の金融機関や製造業など大規模な社内文書解析を扱うエンタープライズ企業は、API プレビューでの文書推論精度を確認し、10 月末のオープンウェイト公開に向けた検証計画を前倒しできる。
3. 根拠・詳細（How）
- スパース MoE アーキテクチャ: 1 兆パラメータのうち 1 トークンあたり 49B のパラメータをアクティブ化する設計により、密結合モデルと比較して計算量を抑制する。
- 4 基の GPU による FP4 実行: FP4 量子化によりパラメータあたりのメモリ消費を圧縮し、現在のマルチ GPU サーバー構成に 1 兆パラメータモデルを収める。
- 強化学習によるポストトレーニング: 数学やコーディングの分野で数百万のサンドボックス環境を自動生成し、実環境への負荷なしでモデルのフィードバック改善を回している。
4. 展望・課題（Next）
- 10 月 27 日の重み公開とライセンス確認: FP8 および FP4 のオープンウェイト公開時に、商用利用ルールや再配布条件を定めたチェックポイントライセンスが判明する。
- API 価格とマルチモーダル仕様の開示: 入力・出力トークン単価や、サポートされる画像フォーマット、構造化出力、コンテキスト長の詳細が今後発表される予定。