非パラメトリックな専門家反復を活用する長文脈エージェントフレームワーク AutoFyn の提案

論文概要

本論文では、モデルの重みを変更せず、検証済みの報酬シグナルを用いて持続的な状態を更新する新しいエージェントハーネス「AutoFyn」が提案されている。Expert Iteration（専門家反復）アルゴリズムに着想を得ており、各ラウンドは新鮮なモデルセッションから開始される。持続的メモリファイルやレポート、リポジトリの状態といった明示的なインターフェースを通じてのみ、耐久性のある情報が再導入される仕組みを採用している。

関連研究

既存の長文脈・長ホライズンエージェントでは、モデルのファインチューニングや重み自体の更新を伴うアプローチが主流であった。しかし、これらは計算コストが高く、 catastrophic forgetting（破局的忘却）のリスクを伴うという課題があった。本研究では、重みを固定したまま外部の持続的状態の更新に絞る非パラメトリックなアプローチを採用することで、これらの問題に対処している。

新規性と貢献

主な貢献は、モデルの重みを一切更新せずに、報酬駆動型の反復によってエージェントの有効方針を改善する「非パラメトリックな専門家反復（Non-Parametric Expert Iteration）」の枠組みを定式化した点にある。オリンピアード数学、データサイエンス、サイバーセキュリティという多様な3つのドメインにおいて、既存のプロバイダー製コーディングエージェントを上回る実績を示している。

提案手法の詳細

各ラウンドにおいて、オーケストレーターが専門特化したエージェントを活用し、多数の代替アプローチを探索・計画・構築する。一方で、タスクにグラウンドされたバリデーターが作業を検証し、進捗を測定するための客観的な報酬を供給する。この報酬は持続的状態に逆流（蒸留）され、次ラウンドの有効方針を更新する。情報の伝達には、永続的なメモリファイル、レポート、リポジトリの状態という明示的なインターフェースのみが用いられる。

評価・考察

論文では、3つのドメインにおける実験結果が報告されている。2026年の国際数学オリンピック（IMO）の6つの新規問題において、改善の余地があるすべてのモデルが、プロバイダー独自のコーディングエージェントよりも AutoFyn の下で高いスコアを記録した。また、Spider 2.0 dbt ベンチマークにおいては最上位にランクされるエージェントを構築した。

さらに、Next.js、MetaMask、pnpm、Warp、LiteLLM、Langflow、Open WebUI を対象とした実証において、合計 16 件のメンテナー確認済み脆弱性アドバイザリを生成することに成功している。

応用例と今後の展望

実務インパクトとして、複雑なコードベースのメンテナンスや脆弱性監査といったソフトウェアエンジニアリング分野、および高度なデータサイエンス・自動数学証明の領域において即座に適用可能である。特に国内のセキュリティ監査企業や大規模開発組織において、人間の作業を補完する自律型監査エージェントとしての活用が見込まれる。今後の課題としては、多岐にわたるドメイン間での汎化性能のさらなる検証や、持続的状態管理のスケール則の解明が挙げられる。

結論

AutoFyn は、モデルの重みを変更せずに持続的状態と検証インターフェースの更新によって長ホライズンタスクを遂行する強力なフレームワークであることを実証した。数学、データサイエンス、セキュリティの各分野において定量的な優位性が確認されており、今後のエージェント設計における新たな方向性を示すものである。

注釈

• Expert Iteration: モデルの生成結果を検証し、得られた高品質なデータを用いて方針を繰り返し改善していく強化学習的手法。