AWS、推論サーバー比較ベンチマーク「SageMaker AI G7 vs G5 and G6」を公開──Blackwell GPU 搭載 G7 のコストパフォーマンスを実証
NVIDIA Blackwell 搭載の G7 インスタンスが、30B 級 MoE モデルの推論処理において従来世代比でどのような優位性を持つかを検証するガイドと実測データを AWS が公開した。
リリース: 2026-09-08 · 読了 4 分記事の要約
1. 核心（What）
- AWS は Amazon SageMaker AI における 30B 級 MoE モデルの推論性能を G5、G6、G6e、G7 インスタンス間で比較するベンチマーク記事とサンプルノートブックを公開した。
- ユースケース 1 では Qwen3-Coder-30B を用いて ml.g5.12xlarge、ml.g6.12xlarge、ml.g7.12xlarge の 3 構成を DJL LMI 28.0 コンテナで比較評価している。
- ユースケース 2 では NVIDIA Nemotron-3-Nano-30B を用いて、vLLM と SageMaker AI Generative AI Inference Recommendations を組み合わせた最適構成の自動探索手法を解説している。
- Blackwell アーキテクチャを採用した G7 インスタンスは、FP4 形式のネイティブハードウェアアクセラレーションをサポートしており、MoE 推論の効率化に寄与する。
2. 影響（Why）
- MoE 推論におけるメモリ帯域のボトルネック解消: トークン生成時に一部のエキスパートのみが発火する MoE モデルではメモリ帯域が律速段階となるため、Blackwell 世代の高速なメモリとハードウェアアクセラレーションによりコストパフォーマンスが大幅に改善する。
- 国内 SaaS 事業者における推論コストの構造改革: 国内で自社モデルやオープンウェイトの LLM API を提供する企業は、G7 の導入により単一インスタンスあたりの必要 GPU 数を半減させ、月次のインフラ運用コストを劇的に圧縮できる可能性が生じる。
3. 根拠・詳細（How）
- DJL LMI 28.0 と NVIDIA AIPerf による測定: Qwen3-Coder-30B-A3B-Instruct-FP8 モデルを DJL Large Model Inference (LMI) 28.0 コンテナでデプロイし、同時実行数 4・入力 128/出力 128 トークンの合成ワークロード 100 リクエストを NVIDIA AIPerf で評価。
- FP4 ネイティブ対応によるハードウェア優位性: G7 インスタンスは NVIDIA Blackwell アーキテクチャを搭載し、NVFP4（4 ビット浮動小数点フォーマット）の Tensor Core ネイティブサポートにより、他世代では困難なハードウェアレベルの低精度演算最適化を達成。
4. 展望・課題（Next）
- 利用可能リージョンの拡大計画: G7 インスタンスは現時点で米国オハイオおよびオレゴンリージョンに限定されているため、今後の東京リージョンを含むグローバル展開のスケジュールに合わせた検証計画が必要となる。