NVIDIA、Vera Rubin NVL72 を公開──MLPerf Inference v6.1 で GB300 比最大 3.7 倍の処理性能を達成
NVIDIA が MLPerf Inference v6.1 で次世代 Vera Rubin NVL72 のプレビュー結果を初公開し、Qwen3-VL や DeepSeek-R1 で圧倒的なスループットを実証した。
リリース: 2026-09-16 · 読了 3 分記事の要約
1. 核心(What)
- NVIDIA Vera Rubin NVL72 システムが MLPerf Inference v6.1 に初参戦し、GB300 NVL72 比で最大 3.7 倍のスループットを記録した。
- GB300 NVL72 の 288-GPU 構成(4 ラック)において 99% という高いスケーリング効率を達成した。
- Qwen3-VL ベンチマークでは vLLM と NVIDIA Dynamo を活用し、DeepSeek-R1 では TensorRT-LLM を用いて高速化を実現した。
- SemiAnalysis AgentX ベンチマークにおいて、Vera Rubin NVL72 は GB300 NVL72 比で 30 倍の性能を発揮した。
2. 影響(Why)
- 大規模推論のコスト構造転換: 1 ラックあたりの生成トークン数が劇的に増加するため、大規模 LLM や推論モデルを運用する企業のコスト構造とインフラ調達計画の前提が変わる。
- 国内 AI データセンターの設計指針: 国内のクラウド事業者や大規模 AI インフラを構築する通信キャリア規模の組織は、次世代ハードウェアの導入スケジュールとネットワーク設計の再検討を迫られる。
3. 根拠・詳細(How)
- ハードウェアとソフトウェアのフルスタック統合: 強化された Tensor Cores と Transformer Engine がプリフィル・デコード段階を加速させ、NVFP4 精度によりモデル重みや KV キャッシュのメモリフットプリントを圧縮している。
- ディスアグリゲーションと高速インターコネクト: プリフィルとデコードの分離や専門家並列化を採用し、第 6 世代 NVLink と NVLink Switch による低レイテンシ環境でラック全体の効率を最大化している。
4. 展望・課題(Next)
- MLPerf Endpoints への対応: 今後予定されている MLPerf Endpoints ベンチマークを通じて、エージェント型推論ワークロードにおける標準的な性能測定が確立される。