TypeSafe AI、推論モデル Jev を公開──ハルシネーション排除と最大 200 倍の高速化を実現
型安全な出力と一括サンプリング機構により、既存 LLM 比で最大 193.6 倍の高速化と 444.6 倍のコスト削減を達成した。
リリース: 2026-09-25 · 読了 3 分記事の要約
1. 核心(What)
- TypeSafe AI が型安全な出力とハルシネーション排除を両立する新 AI モデル「Jev」のアクセスを開始した
- 出力構造を事前に固定し一括サンプリングする手法により、生成時間を 70〜500 ミリ秒に短縮した
- 強化学習の新手法「RLCD」を採用し、確率の信頼スコアと不確実性を伴う出力を保証する
- プログラミング言語の構文木に基づく「ワークフレーム」ベンチマークで高い性能を記録した
2. 影響(Why)
- 型保証によるコストと工数の圧縮: トークン生成中のハルシネーションや構文エラーを防ぐため、パーサ処理やリトライ機構の実装コストが実質ゼロになる。
- 国内エンタープライズへの影響: [国内金融・公共系システム開発] のような厳格な品質基準が求められる現場では、型エラーゼロを前提としたエージェント実装が可能になる。
3. 根拠・詳細(How)
- 一括サンプリングによる高速化: 出力構造を生成前に確定させる事前サンプリングループを採用し、1 回のクエリで全ての出力を一括処理して 70〜500 ミリ秒での応答を実現した。
- 新手法 RLCD による学習: RLHF と RLVR に加え、確率の不確実性をモデル自身で学習・較正する「Reinforcement Learning for Calibrated Decisions」を導入した。
4. 展望・課題(Next)
- 開発者フィードバックの収集: アクセスプログラムを通じて開発者から業務実運用のフィードバックを収集し、さらなる最適化を進める予定。