NVIDIA、Vera Rubin / Blackwell アーキテクチャを発表──エージェント型 AI ワークロードで電力効率を最大 30 倍に向上
実録エージェントセッションを再現する新ベンチマーク AgentX において、Vera Rubin NVL72 および Blackwell GB300 NVL72 が従来比で圧倒的なスループットとコスト削減を実証した。
リリース: 2026-08-24 · 読了 4 分記事の要約
1. 核心（What）
- NVIDIA は、マルチステップのエージェント型 AI ワークロードに特化した Vera Rubin NVL72 および Blackwell GB300 NVL72 の性能評価結果を発表した。
- SemiAnalysis が開発したオープンソースの推論ベンチマーク「AgentX」を用い、実際のコーディングエージェントのセッション履歴を再現して検証を実施。
- 検証では、プレフィル処理、KV キャッシュの再利用、分散 MoE 実行、ツール呼び出しのレイテンシを含んだ実運用に近いコンテキスト負荷を測定している。
- Vera Rubin NVL72 は、GB300 NVL72 と同等のインタラクティブな応答速度を維持しながら、電力効率を劇的に引き上げるプレビュー結果を示した。
2. 影響（Why）
- 長文脈エージェント運用のインフラコスト激変: 100 万トークン超のコンテキストを持つエージェント処理を自社データセンターで回す場合、GB300 NVL72 の単位電力あたりのスループット向上（H200 比最大 15 倍）により、運用ハードウェア台数を大幅に圧縮できる。
- 国内 AI サービス開発企業のインフラ選定への影響: 大規模なエージェント型 SaaS を展開する国内プラットフォーム事業者（特に生成 AI アプリ開発・BtoB 向けコーディング支援を提供する中規模以上のテック企業）は、次世代ハードウェア導入時の電力あたりの単価設計を見直す契機となる。
3. 根拠・詳細（How）
- Wide Expert Parallelism と DeepEP による通信最適化: SGLang、TensorRT-LLM、vLLM などのランタイムが MoE のエキスパート実行を NVL72 ドメイン全体に分散し、DeepGEMM ベースのカーネルと MXFP4/MXFP8 形式によりデータ転送のオーバーヘッドを削減する。
- NVIDIA Dynamo によるプリフィル・デコード分離: Dynamo は、プレフィルとデコードを独立してスケーリングするワーカープールに分割し、キャッシュ認識型ルーターによって KV キャッシュの重複計算を抑制してマルチターン応答を高速化する。
4. 展望・課題（Next）
- Vera Rubin プラットフォームの本格展開: Rubin GPU、Vera CPU、Groq 3 LPX、および NVLink 6 などのファブリックを統合したフルスタックでのエージェント最適化が進められる予定。