テスト時計算量を削減する Prefix Sliding 手法──既存モデルの推論を 3 倍高速化し精度維持を実証

論文概要

テスト時計算量（test-time compute）の増加は、LLMが複雑な問題解決において長い思考プロセスを維持する上でメモリ負荷の増大を招く。本論文では、中間推論トークンの大部分が時間の経過とともに重要度を失うという発見に基づき、メモリ使用量を一定に抑える新しい効率化手法「Prefix Sliding」を提案する。著者らは、学習なしの適用で既存モデルを 3 倍高速化できること、および強化学習を用いた学習により 10 万トークンを超える推論トレースへのスケーリングが可能になることを示した。

関連研究

従来のテスト時スケーリングでは、モデルはフルアテンションを用いて推論トレース全体をメモリ内に保持し続けるため、長文脈のタスクでは計算コストとメモリ消費が肥大化するという課題があった。また、単純な中間トークンの要約や従来のバニラスライディングウィンドウ手法では、長期的な文脈保持と効率性のバランスをとることが困難であった。

新規性と貢献

本研究の主要な貢献は、推論中の重要度低下に着目し、プレフィックスと直近のウィンドウ以外の不要な中間トークンを動的に破棄する設計を取り入れた点にある。これにより、思考がどれほど長くなってもメモリ要件が一定にキャップされ、追加の学習コストなしで 3 倍の高速化と精度維持を両立している点が学術的・実用的なブレイクスルーである。

提案手法の詳細

Prefix Sliding は、モデルがアクセスすべきキー命令やツールを含む「プレフィックス」と、モデルが現在作業している最新の推論トークン群を維持し、それ以外の中間トークンを破棄するメカニズムである。なぜこの設計にしたかといえば、推論プロセスの初期にある細かい中間ステップは、タスク終盤の結論導出に対して影響が希薄化するためである。この仕組みにより、シーケンス長にかかわらずメモリ使用量を上限で固定できる。

評価・考察

アブレーションスタディの結果、Prefix Sliding は中間トークンの要約やバニラスライディングウィンドウを上回るパフォーマンスを記録した。既存モデルに学習なしで適用した場合に 3 倍の高速化を達成しつつ性能を維持し、さらに強化学習による追加学習を行うことで、10 万トークンを超える長大な思考トレースへのスケーリングを実現している。

応用例と今後の展望

本手法は、法務・金融文書の高度な長文脈分析や複雑なソフトウェア開発の自動エージェントなど、長時間の思考プロセス（Reasoning Trace）を必要とするシステムにおいて実務的なメモリ削減インパクトをもたらす。日本のAIインフラ・LLM開発企業にとっても、APIコストの削減および限られたGPUリソースでの大規模推論の実行において極めて有用な基盤技術となる。

結論

Prefix Sliding は、長文脈推論におけるテスト時スケーリングのメモリボトルネックを根本から解消する手法である。学習なしでの即座の高速化と、10 万トークン超へのスケーリング能力を兼ね備えており、今後のLLM推論アーキテクチャの標準的なアプローチの一つとなる可能性がある。

注釈

• テスト時計算量（Test-time compute）：モデルの学習後、推論時に計算リソースを追加して回答の質を高めるアプローチ。
• KVキャッシュ（Key-Value Cache）：Transformerの自己注意機構において、過去のトークンの計算結果を保持し再計算を防ぐためのメモリ領域。