研究チーム、LLM API の隠し推論ログを復元する攻撃手法を論文で発表──機密情報 704 件を抽出
主要な商用 LLM API の暗号化された推論ブロックから 315,320 件の reasoning trace を復元し、プライベートな機密情報がログに含まれるリスクを実証した。
リリース: 2025-10-01 · 読了 3 分記事の要約
1. 核心（What）
- 研究チームが OpenAI、Anthropic、Google のフロンティアモデル API から暗号化された推論ブロックを復元する手法を実証した。
- GitHub および Hugging Face から収集した 6,708 件のエージェント軌跡から 315,320 件の reasoning trace を再構築した。
- ユーザーセッションから API キー 62 件、パスワード 33 件を含む 704 件のプライバシーアーティファクトを回収した。
- 復元された機密情報の内 64 件は、可視化されたセッション内には存在せず、推論ブロック内のみに存在していた。
2. 影響（Why）
- プロンプト設計と機密情報の流出リスク: LLM API へ機密性の高いプロンプトをそのまま送信している国内の SaaS 事業者は、推論プロセスに平文が残るリスクを前提にデータマスキングの設計を即座に見直す必要がある。
- 商用 API におけるセキュリティの再定義: ブラックボックス化された推論ログが外部から再構築可能である事実により、内部トークンの暗号化と検証プロセスを自社システム側で担保するアーキテクチャが必須になる。
3. 根拠・詳細（How）
- API が報告する隠し思考トークン数の追跡: 120 件の Codeforces 問題を使用し、API が報告する隠し思考トークンのカウントと、モデルに入力し直して復元したトークン数を比較する検証を実施した。
- 暗号化された署名ブロックのデコード処理: GitHub と Hugging Face から収集した agent trajectories から署名付きの暗号化ブロックを特定し、デコードパイプラインを適用して 315,320 件の推論ブロックを抽出した。
4. 展望・課題（Next）
- プロプライエタリ API の防御機構の更新: 各プロバイダによる推論ブロックの暗号化強化や、出力フィルタリングの厳格化が今後のアップデートで急務となる。