antoinezambelli、RAG・エージェント向け信頼性向上ライブラリ Forge を公開──8B モデルのタスク成功率を 53% から 99% へ改善
ローカル LLM のツール呼び出しを安定させるガードレール層として機能し、推論時のレスポンス検証や自動リトライにより小規模モデルの agentic な実用性を引き上げる。
リリース: 2026-05-19 · 読了 3 分何が起きた
8B パラメータモデルのツール呼び出し成功率を 53% から 99% に向上させるガードレール層を提供
Ministral-3 8B Instruct Q8 モデルにおいて、26 シナリオの評価スイートで 86.5% の成功率を達成
Ollama、llama-server、Llamafile、Anthropic API をバックエンドとしてサポート
OpenAI 互換プロキシサーバーとして動作し、既存のクライアントから透過的にガードレールを適用可能
なぜ重要
小規模な 8B クラスのモデルでも、適切なガードレール（レスポンス検証やリトライ）を挟めば、複雑なマルチステップのツール呼び出しを商用レベルの信頼性で実行できる。
推論コストを抑えつつ、ローカル環境で完結する高精度なエージェントワークフローを構築するための標準的な信頼性レイヤーとして機能する。
👁️ 開発者
既存の OpenAI 互換クライアント（aider や Continue 等）を利用している開発者は、プロキシとして Forge を挟むだけで、モデルの出力精度を向上させ、ツール呼び出しの失敗を自動的に補正できる。
🇯🇵 日本
社内データを用いた RAG やエージェント開発を行う国内の Vertical SaaS 事業者は、高コストな巨大モデルへの依存を減らし、8B クラスのローカルモデルを実務に耐えうる精度で運用する構成へ移行できる。