NVIDIA、推論特化モデル Nemotron 3.5 Lightning を公開──エージェントコストを 58% 削減
30B MoE アーキテクチャと 3B アクティブパラメータにより、同等クラス比で最大 4 倍の高速化とエージェント実行コスト削減を実現。
リリース: 2026-08-11 · 読了 3 分記事の要約
1. 核心（What）
- NVIDIA は高頻度エージェント実行向けに設計された 30B パラメータ（アクティブ 3B）の MoE モデル Nemotron 3.5 Lightning をリリースした。
- 本モデルは OpenMDW-1.1 ライセンスで重み、学習データ、レシピがオープンに提供されている。
- 専用のモデルルーティングライブラリ NeMo Switchyard により、タスクを適切なモデルへ自動分配して 28% から 74% のコスト削減を達成する。
- DGX Spark、RTX PC、Ollama や各種クラウド環境など幅広いランタイムをサポートする。
2. 影響（Why）
- 実行レイヤーのコスト最適化: エージェントの大部分を占めるツール呼び出しや結果検証にフロンティアモデルを使うコストが過剰である課題を直接解決する。
- 国内 SaaS のインフラ設計への波及: 月額数千件以上のマルチステップ処理を回す国内の業務自動化サービスは、推論コストを理由に見送っていた機能を再設計できる。
3. 根拠・詳細（How）
- Mixture-of-Experts と事前学習済 MTP: 30B のパラメータのうち、ルーターが各トークンを特定の少数の専門ネットワークにのみ振り分けることで稼働数を 3B に抑制している。また、事前学習時にマルチトークン予測（MTP）を組み込み、複数トークンを同時にドラフト・並列検証する仕組みにより出力速度を最大 4 倍に高めている。
- 専用ドラフトモデルの同梱: 推論高速化のための専用ドラフトモデルとして、DGX Spark および低並行ワークロード向けの DSpark と、より幅広い推論シナリオ向けの DFlash の 2 種類が同梱されている。
4. 展望・課題（Next）
- マルチエージェント基盤への統合: NeMo Switchyard や各種フレームワークとの連携を通じて、大規模な企業内ワークフローへの組み込みが進む見通し。