jaredpalmer、決定木モデル群 Kev を公開──Qwen3.5 ベースで確率出力と 3 スケールに対応
Qwen3.5 をベースに確率出力や複数質問を単一リクエストで処理できる 0.8B/4B/9B の決定モデル群を公開した。
リリース: 2026-09-17 · 読了 3 分記事の要約
1. 核心（What）
- Qwen3.5 をベースとした小規模決定モデル群 Kev を公開
- 0.8B、4B、9B の 3 つのパラメータサイズで提供
- TypeSafe の System One API 仕様に準拠した Python SDK およびローカルサーバーを同梱
- CUDA、ROCm、Apple Silicon に対応し 32GB Mac で動作
2. 影響（Why）
- ローカル環境での高度な意思決定処理: 単一のテキスト入力に対して複数の質問形式を同時に処理し、確信度付きの確率を返すため、エージェントの判定精度を担保しやすい。
- インフラコストの劇的な削減: 32GB の Mac や単一の GPU で 9B モデルまでの推論が完結するため、クラウド API のコストを気にせず本番環境へ組み込める。
3. 根拠・詳細（How）
- API 互換性と推論仕様: TypeSafe の System One API と完全互換のエンドポイントを持ち、HTTP リクエスト経由で選択肢の確率分布を取得できる。
- 温度パラメータによる較正: 各チェックポイントに最適化された温度パラメータを適用することで、較正誤差を低減し信頼性の高い確率出力を行っている。
4. 展望・課題（Next）
- 前世代からの移行: Qwen3 ベースの旧世代ウェイトは公開が維持されるが今後は開発が停止されるため、新規構築には Qwen3.5 ベースのモデル群への移行が推奨される。