z-lab、Qwen3.8-27B 向け推論高速化モデル DFlash 2 を公開──ブロック拡散でスループットを向上
Qwen3.8-27B の推論において、ブロック拡散型ドラフター DFlash 2 を SGLang や vLLM の speculative decoding に組み込むことで、ロスレスな出力品質を維持したままスループットを向上させる。
リリース: 2026-08-18 · 読了 3 分記事の要約
1. 核心（What）
- z-lab は Qwen3.8-27B 用のブロック拡散型ドラフターモデル「DFlash 2」のリポジトリを公開した。
- 本モデルは単体ではなく、speculative decoding サーバーのドラフトモデルとして機能する。
- SGLang および vLLM の推論ランタイムに対応し、検証ステップあたり 7 〜 8 個のドラフトトークンを生成する。
- 貪欲出力がターゲットモデルと完全に一致するロスレスなデコーディングを実現している。
2. 影響（Why）
- ロスレスな高速化の実現: サンプリング分布や貪欲出力の正確性を損なわずにトークン生成速度を引き上げられるため、モデル精度を妥協できない本番システムに導入しやすい。
- 既存エンジンへの容易な統合: SGLang や vLLM の既存の speculative decoding 機能に対して、モデルパスとパラメータを指定するだけで差し替えられる実装コストの低さがある。
3. 根拠・詳細（How）
- ブロック拡散型ドラフターの仕組み: 1 パスでトークンブロック全体を予測し、バックボーン内の 2 タップ動的畳み込みによってブロック終端での性能低下を防ぐ設計。
- 推論エンジンの実行要件: SGLang では専用の git ブランチから導入し、vLLM では pull request 52816 ベースの環境と組み合わせることで speculative 構成が稼働する。
4. 展望・課題（Next）
- 対応エンジンの拡充: 公式ブログ等において、SGLang と vLLM 以外の推論エンジンへの対応や最適化手法の更なる詳細公開が予定されている。