DavidAU、Qwen3.8-27B-TURBO モデルを公開──思考トークン数を最大 1/10 に削減しつつ ARC-C 735 を達成
Qwen3.8 27B をベースに COLD FUSION 手法などで多段階ファインチューニングを行い、ベースモデル比で思考オーバーヘッドを劇的に圧縮しつつ商用クローズド級のベンチマークを実現した。
リリース: 2026-09-02 · 読了 4 分記事の要約
1. 核心（What）
- DavidAU チームは HuggingFace にて Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF を公開した
- 8 bit 量子化版で ARC-C 735、4 bit 版で 719 というスコアを記録し、従来モデルの各種ベンチマークを凌駕している
- トレーニングには Unsloth のシステムに加え、リアルタイムで学習を動的変更する GAIN 手法および Fable Fusion 711 手法が適用されている
- 生成時の思考トークン消費量を通常の 1/2 から最大 1/10 に抑制し、出力品質を維持したまま高速な応答を実現している
2. 影響（Why）
- 思考トークンの最適化による実用性の飛躍: 長大な思考ブロックによるレイテンシのボトルネックが解消されるため、エンドユーザーが待たされるストレスなくリアルタイム性の高いアプリケーションを組めるようになる。
- 国内プライベート LLM 構築への波及: 商用クローズドと同等のベンチマーク領域に達した高精度ローカルモデルを社内インフラに組み込むことで、API 依存を排除したセキュアな RAG・文章生成基盤のコストパフォーマンスを大幅に引き上げられる。
3. 根拠・詳細（How）
- GAIN 手法と Unsloth による COLD FUSION トレーニング: モデルが学習する最中にサンプル単位で動的にトレーニング内容を変更する GAIN 機構を自社開発し、Unsloth のシステムと結合することで過学習を防ぎつつ性能を最大化した。
- MTP および Neo-CODER MAX 統合による量子化設計: GGUF 形式のデュアル imatrix 量子化（4 bit / 8 bit）および MTP（Multi-Token Prediction）構造を採用し、コンシューマー向けハードウェアへのデプロイメントと高速化を両立させた。
4. 展望・課題（Next）
- 他モデルへの手法の展開予定: 開発チームは今回確立したファインチューニング手法を他のベースモデル群にも順次適用していく予定であることを示唆している。