NVIDIA、AI 推論効率の指標として「ワット当たりの性能」を提唱──Blackwell NVL72 で最大 25 倍へ
電力制約が AI 工場の収益性を左右する中、MoE モデルの推論において 72-GPU ドメインへのスケールアップがエネルギー効率を最大化する鍵となる。
リリース: 2026-07-14 · 読了 5 分記事の要約
1. 核心（What）
- NVIDIA GB300 NVL72 プラットフォームは、Hopper 世代比でワット当たりの性能を最大 25 倍に向上させた。
- MoE モデルの推論において、8-GPU ドメインから 72-GPU ドメインへの拡張がエネルギー効率改善の主要因であると実証した。
- NVIDIA DSX MaxLPS ソフトウェアにより、ラック内の電力配分をリアルタイム制御し、同一電力予算内で GPU 稼働数を最大 40% 増加可能にした。
- DeepSeek V4 モデルにおいて、ソフトウェア最適化のみで 1 ヶ月間にワット当たりの性能が最大 5 倍向上した。
2. 影響（Why）
- 電力制約が収益のボトルネックに: AI 工場における電力は逃げ場のない制約であり、推論コストを最小化できない事業者はスケーリングの競争から脱落する。単なる GPU 数ではなく、消費電力あたりのトークン生成効率が経営指標となる。
- 国内 SaaS 事業者への影響: 自社で推論基盤を運用する国内の Vertical SaaS や AI 開発企業は、ラック単位の電力効率を考慮しないインフラ設計ではコスト競争力を維持できない。今後は vLLM 等の最適化に加え、電力配分を動的に制御するスタックの導入が不可欠になる。
3. 根拠・詳細（How）
- ラックスケールのハード・ソフト共設計: 第 6 世代 NVLink Switch を採用し、SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) によりインネットワークでのコンピューティングを実現。GPU への負荷をオフロードし、72-GPU ドメインでの通信効率を最大化している。
- 推論スタックの最適化手法: TensorRT-LLM、SGLang、vLLM を統合し、NVFP4 量子化、KV キャッシュオフロード、KV-aware ルーティングを適用。DeepSeek V4 等の MoE モデルに対し、エキスパート並列化を最適化することで推論効率を改善している。
4. 展望・課題（Next）
- Vera Rubin プラットフォームへの移行: Blackwell で確立したラックスケールのエネルギー効率設計を基盤とし、次世代の Vera Rubin プラットフォームでさらなる電力効率の向上を目指す。