TypeSafe AI、閉世界分類器 OSS ライブラリ Jev を公開──較正済み確信度で推論コストを最大 400 倍削減
LLM の logprobs の歪みを解消する較正済み確信度を備え、エージェントの全イベント判定や出力が閉じられたガードレール構築を低コストで実現する。
リリース: 2026-09-01 · 読了 3 分記事の要約
1. 核心（What）
- TypeSafe AI が開発した Jev は、生成モデルではなく較正済み確信度を返す閉世界分類器である。
- RLCD により確信度自体を学習しており、閾値に応じた確実な自動分岐設計が可能になる。
- 出力空間が定義済み選択肢に制限されているため、構造的に不正出力や指示無視を防ぐガードレールとして機能する。
- 入力課金は 10 億トークン単位を採用し、LLM と比較して最大 200 倍の高速化と 400 倍のコスト削減を謳う。
2. 影響（Why）
- 自動化分岐の信頼性向上: logprobs は温度やプロンプトで歪むため閾値に使いづらいが、較正済み確率により高確信度の自動実行と低確信度の人間介入を正確に分離できる。
- 構造的な安全性の確保: 監視側 LLM 自体がインジェクションで崩壊するリスクを、選択肢が閉じた分類器構造によって根本から回避する。
3. 根拠・詳細（How）
- RLCD による較正学習プロセス: Reinforcement Learning for Calibrated Decisions を用いて出力確率と現実の正解率が一致するように学習を行い、0.95 の出力に対して約 95% の精度を達成する。
- LangChain 連携ガードレール: LangChain のミドルウェアエコシステムに組み込まれ、エージェントのツール呼び出しやログ監視のパイプラインとして直結可能。
4. 展望・課題（Next）
- 日本語環境での実測検証: 2026 年 9 月時点では早期アクセス段階であり、日本語テキスト入力時の誤分類率やフォールバック経路の確立が実運用における必須の検証課題となる。