OpenAI、自動レッドチームAI「GPT-Red」を発表──人間の攻撃成功率13%に対し84%の脆弱性検出能力
自己対戦型強化学習によりGPT-5.6 Solの直接プロンプトインジェクション失敗率を0.05%まで低減した安全性強化基盤。
リリース: 2026-07-16 · 読了 5 分記事の要約
1. 核心（What）
- OpenAIは自社モデルの脆弱性を自動発見するモデル「GPT-Red」を発表した。
- 未知のシナリオにおける間接プロンプトインジェクションの攻撃成功率は、人間が13%であるのに対しGPT-Redは84%を記録した。
- 最新の「GPT-5.6 Sol」では、GPT-Redを用いた敵対的トレーニングにより、直接プロンプトインジェクションの失敗率を0.05%まで抑制した。
- GPT-Redはデプロイ用モデルとは分離された社内専用モデルとして運用される。
2. 影響（Why）
- 安全性検証のボトルネック解消: 人間の専門家によるレッドチーミングはコストと時間が膨大であり、GPT-Redによる自動化は、モデルのリリースサイクルを維持しつつ堅牢性を高めるための必須要件となる。
- 国内SaaS事業者の防御設計: 自社プロダクトにLLMを組み込む国内のVertical SaaS事業者や金融系IT部門は、GPT-5.6 Sol級の耐性を持つモデルを基準とし、プロンプトインジェクション対策を「拒否」から「能力維持したままの耐性強化」へ転換すべきである。
3. 根拠・詳細（How）
- 自己対戦型強化学習の実装: 攻撃側GPT-Redと防御側LLMを同時に訓練する自己対戦型強化学習を採用。攻撃側はプロンプトインジェクション成功、防御側はタスク完了を報酬として学習し、防御側の強化に伴い攻撃能力も進化する仕組み。
- ベンチマークと攻撃性能: 「偽Chain-of-Thought攻撃」という新種の手法を初期版GPT-Redが発見。GPT-5.1に対して95%超の成功率を収めたが、GPT-5.6 Solでは10%を下回る耐性を実現した。
4. 展望・課題（Next）
- 論文公開と技術展開: OpenAIは今週後半にGPT-Redの詳細を記した査読前論文を公開予定。今後は計算資源と学習データを拡充し、より強力な安全性フライホイールの構築を目指す。