GnLOLot、推論特化モデル MiniCPM5-1B-Claude-Opus-Fable5-Thinking を公開──1Bパラメータで128Kトークン対応
OpenBMBのMiniCPM5-1BをベースにFable 5データでファインチューニングを施し、軽量環境での推論とツール利用を強化した。
リリース: 2026-07-03 · 読了 3 分記事の要約
1. 核心（What）
- OpenBMBのMiniCPM5-1Bをベースに、Fable 5データセットを用いてファインチューニングした1Bパラメータモデルを公開。
- コンテキスト長は最大128Kトークン（131,072トークン）をサポート。
- MiniCPM5の標準的なThinkingモードとXML形式のツール呼び出し機能を継承。
- Apache-2.0ライセンスで提供され、GGUF形式での配布によりllama.cppやOllamaでの実行が可能。
2. 影響（Why）
- 軽量モデルによる推論の民主化: 1Bという極めて軽量なサイズで推論過程（Thinking）を扱えるため、エッジデバイスや安価なGPU環境でも複雑なタスクの推論ロジックを実装できる。
- 国内開発現場への影響: 社内データを用いたRAGやツール連携を検討する中規模SaaS企業は、APIコストを抑えつつ、VPC内完結型の推論パイプラインとして本モデルをベースラインに据える選択肢が現実的になる。
3. 根拠・詳細（How）
- アーキテクチャと実行環境: OpenBMBのMiniCPM5-1Bをベースモデルとし、TransformersのAutoModelForCausalLM経由でtorch.bfloat16を使用してロード可能。GGUF変換済みモデルはllama.cppで動作する。
4. 展望・課題（Next）
- 推論ブロックの制御: モデルが生成する推論ブロックは最終回答前に含まれるため、アプリケーション側で出力ストリームを解析し、推論部分をフィルタリングする処理が必要となる。