Hugging Face、AI主導のサイバー攻撃を検知──商用モデルの解析拒否を回避しOSSモデル「GLM 5.2」で防御
AIエージェントによる不正アクセスに対し、商用LLM APIのガードレールを回避してOSSモデルへ切り替えることで防御を完遂した事例。
リリース: 2026-07-20 · 読了 3 分記事の要約
1. 核心（What）
- 2026年7月16日、Hugging FaceのSpaces環境に対し、AIエージェントを用いたサイバー攻撃が発生した。
- 攻撃者はデータセットやSpacesの構成情報を悪用し、不正なコード実行を試みた。
- 防御側は当初商用モデルの使用を検討したが、ガードレールにより解析が拒否されたため、OSSの「GLM 5.2」を採用して対応した。
- 今回の攻撃によるデータセットやSpacesの改ざん、あるいはユーザーアカウントへの影響は確認されていない。
2. 影響（Why）
- 商用モデルの限界とOSSの価値: 商用モデルのガードレールは安全性を担保する一方で、セキュリティ調査のようなエッジケースでは解析を拒否する。開発者は、緊急時のフォールバックとしてVPC内で完結するOSSモデルを確保しておく必要がある。
- 国内SaaS事業者への教訓: [国内のAI活用型SaaS事業者]のような規模の組織は、外部APIへの依存度が高い。攻撃検知時にAPIの制約で調査が止まるリスクを考慮し、ローカル環境で推論可能なOSSモデルを検証済みのバックアップとして保持すべきである。
3. 根拠・詳細（How）
- GLM 5.2による防御の実装: 商用モデルが「インシデント対応者と攻撃者の区別がつかない」として解析を拒否したため、オフライン環境で実行可能なGLM 5.2を導入し、データセットや実行ログの解析を完遂した。
- 攻撃手法の特定: 攻撃者はHugging Faceのデータパイプラインを悪用し、データセット設定のテンプレートインジェクションとコード実行の2段階の攻撃コードを注入していた。
4. 展望・課題（Next）
- セキュリティポリシーの更新: Hugging Faceは、今回の攻撃を受け、ホスト型モデルのセキュリティ機能強化と、開発者へのフィードバックループの改善を進める方針を表明した。