論文、ツール利用 LLM エージェントの「検証コスト」を分析──安全性と成功率のトレードオフを解明
エージェントの実行ステップが長くなるほど、検証器による安全チェックが成功率を阻害する「Verifier Tax」現象を定量化し、最適な設計指針を提示した。
リリース: 2026-06-16 · 読了 3 分何が起きた
ツール利用 LLM エージェントにおいて、安全性を担保する検証器（Verifier）がタスク成功率を低下させる現象を「Verifier Tax」と定義した。
タスクのホライゾン（実行ステップ数）が長くなるほど、検証器による誤検知（False Positives）が累積し、最終的な成功率が指数関数的に低下することを数理モデルで分析。
10 ステップ以上の長期タスクでは、検証器の精度が 99% と高精度であっても、累積的な成功率は大幅に制限されるトレードオフを指摘した。
なぜ重要
「とにかく検証器を挟む」という安易な安全設計が、複雑なエージェントの完遂率を致命的に下げるリスクを可視化した。
高信頼性が求められる自律型エージェント開発において、検証の厳格さとタスク達成のバランスを「ホライゾン長」から逆算して設計する理論的枠組みを提供する。
👁️ 開発者
エージェント開発者は、単一ステップの検証精度向上だけでなく、ステップ数に応じた「検証の緩急」を動的に制御するロジックの実装を迫られる。
🇯🇵 日本
製造業や金融など、高い安全基準を求める国内のエンタープライズ向けエージェント開発（特に RPA 代替やワークフロー自動化）において、PoC 段階の成功率不足の原因を特定する理論的根拠となる。