🧠Research🔥🔥

DavidAU、Qwen3.6-27B ベースのファインチューンモデルを公開──ARC-C で 0.711 を記録

27B クラスで初めて ARC-C ベンチマーク 700 点台に到達し、クローズドモデルに迫る推論性能をコンシューマー GPU で実現した。
リリース: 2026-07-19 · 読了 4

記事の要約

1. 核心(What)

  • Qwen3.6-27B をベースに、Fable などの複数のデータセットを組み合わせたマルチステージ・ファインチューニングモデルを公開。
  • ARC-C ベンチマークにおいて 4bit/8bit 量子化版ともに 0.701 以上(711 点)を記録し、ベースモデルを全 7 指標で上回る性能を達成。
  • MTP(Multi-Token Prediction)対応の GGUF 量子化版を提供し、RTX 5090 環境で最大 90 t/s の推論速度を実現。
  • Heretic v1.2.0 と ARA(Arbitrary-Rank Ablation)手法を用いて、モデルの知能を損なわずに検閲を解除。

2. 影響(Why)

  • 商用モデル級の推論能力: ARC-C で 700 点台に到達したことで、GPT-4 や Claude 等のクローズドモデルに依存していた複雑な推論タスクを、VRAM 24GB 程度の環境で代替可能になった。
  • 国内 SaaS のコスト構造転換: 自社で推論基盤を持つ国内の Vertical SaaS 事業者は、高額な API 課金から脱却し、単一 GPU で動作する本モデルへ移行することで推論コストを大幅に抑制できる。

3. 根拠・詳細(How)

  • MTP による推論加速: MTP(Multi-Token Prediction)を適用し、出力テンソルの 10-20% を 16bit 精度で保持することで、通常の GGUF 比較で約 20% の高速化を達成。
  • ARA 手法による検閲解除: Heretic v1.2.0 および ARA(Arbitrary-Rank Ablation)を用い、モデルの推論能力を維持したまま、拒絶反応を排除する調整を施した。

4. 展望・課題(Next)

  • マルチモーダル運用: Vision 機能を利用するには、別途提供される mmproj ファイルを GGUF と同フォルダに配置する必要がある。