Import AI 468 号レビュー──自動 AI 開発のリスク管理ポリシーと PostTrainBench の最新動向
IFP の政策提言 23 案と MIT・Columbia 大によるゲーム理論分析を通じて、AI 自動化時代の信頼と検証の枠組みを読み解く。
リリース: 2026-08-10 · 読了 4 分記事の要約
1. 核心（What）
- シンクタンク IFP が自動 AI R&D リスク管理に向けた 7 カテゴリ・23 項目の政策提言を発表
- MIT と Columbia 大の研究者が「Racing to Ruin」論文で AI 開発競争における協調的スピード抑制の条件をゲーム理論で分析
- AI スタートアップ Intology が開発した R&D 自動化ソフト「Locus」の最新版が PostTrainBench で 44.7% を記録
- Intology は 10 時間の壁を超えて計算資源を拡張できる「PostTrainBench+」の検証結果も公開
2. 影響（Why）
- 研究自動化時代のポリシー設計: AI が自律的に研究を加速する RSI（再帰的自己改善）時代において、政府や開発企業が取るべき具体的なブレーキと監視の選択肢が整理された。
- 国内 AI 開発組織への示唆: 国内の基盤モデル評価チームや研究機関は、国際的な AI 開発競争における「信頼と検証」のゲーム理論モデルを安全保障やガバナンス設計の前提に組み込む必要がある。
3. 根拠・詳細（How）
- Locus の PostTrainBench スコア: Opus 5 を用いた Locus は 44.7% を獲得し、ベースライン（34.1%）や Fable 5（41.8%）を上回った。
- Racing to Ruin の分析モデル: デュオプリスト間の R&D 競争モデルを用いて、透明性と信頼がどのように協調的停止（スピード抑制）の均衡を生むかを数理的に証明した。
4. 展望・課題（Next）
- 国際協調と検証インフラの構築: 核軍縮における検証体制に類似した、AI 開発状況の透明性共有と検証ツールの実用化が今後の焦点となる。