🧠Research🔥

MoreThought、推論特化データセット Fable-5.1-Max-Reasoning-Filtered-5000x を公開──コーディングの推論トレース 5,000 件を収録

Fable 5.1 モデルによる最大推論のステップ別トレース約 1 億 5,000 万トークンを厳選・重複排除して収録し、小規模 LLM への蒸留を狙う。
リリース: 2026-09-11 · 読了 3

記事の要約

1. 核心(What)

  • MoreThought が推論特化データセット Fable-5.1-Max-Reasoning-Filtered-5000x を HuggingFace で公開した。
  • 新モデル Fable 5.1 の最大推論で生成された 5,000 件のコーディングおよび推論トレースを収録している。
  • 総トークン数は約 1 億 5,000 万トークンに達し、ステップごとの思考プロセス(chain-of-thought)が含まれる。
  • 品質の低いトレースは重複排除およびフィルタリングにより除外されている。

2. 影響(Why)

  • 小規模 LLM への推論能力の蒸留: Fable 5.1 級の高度な推論トレースを直接利用できるため、自社で保有する小規模パラメータモデルのファインチューニングコストを大幅に抑えながら推論性能を引き上げられる。
  • 国内コード生成基盤への影響: コード生成や複雑なデバッグを伴う国内のソフトウェア受託開発事業者や SaaS 企業は、商用 API に依存しないオンプレミス型の高度な推論モデル構築ベースラインとして本データを組み込む選択肢が生まれる。

3. 根拠・詳細(How)

  • データセットの仕様と収録範囲: アルゴリズム設計、パフォーマンス最適化、高度なデバッグ、複数ステップの論理設計に関するステップ別の問題解決プロセスを約 1 億 5,000 万トークン規模で格納している。
  • フィルタリングと品質管理の仕組み: 重複排除処理と品質フィルタリングを実施し、最終的な出力の前に明確な思考ステップを生成する能力をモデルに学習させるための高精度なトレースのみを厳選している。

4. 展望・課題(Next)

  • 小規模モデルへの適用実証: オープンソースのベースモデルに対して本データを適用し、コード生成タスクにおける推論精度の向上率を検証する。