コーディングエージェントの内部表現を解明──モデルは実行より最大25ステップ先を予見する
LLMの隠れ層にプログラムの正当性や将来の編集結果が線形エンコードされていることを特定し、エージェントの推論プロセスを可視化する手法を提案した。
リリース: 2026-07-06 · 読了 3 分記事の要約
1. 核心（What）
- LLMの残差ストリーム（residual streams）を解析し、エージェントが生成中のコードの正当性やテスト通過状況を線形プローブで抽出することに成功した。
- コードの正当性予測において、2つのモデルと2つのベンチマークでAUC最大0.83を記録した。
- エージェントが実際にコードを編集する最大25ステップ前に、将来の編集結果が内部表現としてエンコードされていることを確認した。
2. 影響（Why）
- エージェントの推論のブラックボックス化を解消: エージェントが「何を考えてコードを書いているか」を内部状態から直接読み取れるため、ハルシネーションや論理エラーの予兆を推論実行前に検知するデバッグ基盤になる。
- 国内SaaS開発におけるエージェント信頼性の向上: [中規模のVertical SaaS開発組織]において、エージェントによる自動リファクタリングを導入する際、内部表現の監視を通じて回帰テスト失敗を事前に予測・抑制するガードレール設計が可能になる。
3. 根拠・詳細（How）
- ロジスティック回帰プローブによる隠れ状態のデコード: モデルの隠れ状態に対してロジスティック回帰プローブを適用し、コードの構文解析可否やテスト通過率をAUC 0.83の精度で抽出。ベンチマーク間での転移学習が可能であることを実証した。
- 潜在プログラミングホライズンの定量化: エージェントの実際の編集操作（ディスクへの書き込み）より最大25ステップ先行して、将来の編集結果を予測するモデルを構築。この先行予測性能を「潜在プログラミングホライズン」と定義した。
4. 展望・課題（Next）
- メカニスティック解釈可能性の拡張: 今回の手法はコーディングタスクに特化しているため、他のタスク（数学的推論や長文生成）においても同様の先行予測的な内部表現が存在するかを検証する必要がある。