vLLM、推論サーバー向けフレームワーク DSpark を統合──DeepSeek-V4 で動的トークン検証を実現
vLLM が DeepSeek-V4 向けの動的検証機能 DSpark をメインブランチにマージし、並行数 1 から 256 まで単一の設定で最適化されたスループットを実現する。
リリース: 2026-08-15 · 読了 3 分記事の要約
1. 核心（What）
- vLLM は main ブランチの PR #47808 において、有効化フラグ enable_adaptive_verification を介した適応型検証機能 DSpark を統合した。
- DeepSeek-V4-Pro-0813 モデルを用いた検証において、7 トークンのドラフトのうち 1 番目のトークンは 70% 以上の生存率を示す一方、7 番目は 10% 未満に急減する特性が確認された。
- num_speculative_tokens: 7 の単一設定により、8 基の B300 GPU 環境において並行数 1 から 256 までのパレートフロンティアを網羅する構成が可能になった。
- 本機能の利用には SM100 ハードウェア（B300）が必要であり、LoRA、パイプライン並列、出力 logprobs、eager モードとは現状互換性がない。
2. 影響（Why）
- 運用コストの抜本的最適化: 静的なドラフト長チューニングの運用負荷が消えるため、負荷変動の激しいプロダクション環境を運営するテックリードは、トラフィック形状の再ベンチマーク作業を省略できる。
- 国内 SaaS の推論コスト削減: 大規模な LLM サービスを自社インフラで運用する国内の生成 AI プラットフォーム事業者は、GPU リソースの無駄な消費を抑えつつ高並行時のスループットを維持できる。
3. 根拠・詳細（How）
- 信頼度スコアに基づく動的バジェット制御: DSpark の自信度ヘッドが各ドラフトトークンの生存確率をスコアリングし、vLLM がバッチ全体を通じて生存率の高いトークンへ検証スロットを動的に割り当てるアーキテクチャを採用している。
- B300 ハードウェア前提の制約仕様: SM100 アーキテクチャ（B300 GPU）にハードウェア依存し、vLLM のオープンソースコードベースに直接組み込まれているため、別途ドラフトモデルのダウンロードを必要としない。
4. 展望・課題（Next）
- 対応ハードウェアと機能の拡張: 現在は SM100 系ハードウェアおよび特定構成に限定されているため、今後は対応チップの拡大や LoRA・パイプライン並列との統合が課題となる。