Anthropic、Claude の日記入力を警察に通報──利用者逮捕で問われるチャットボットのプライバシー境界
Anthropic の安全システムが Claude の日記機能で検知した襲撃予告を通報し、利用者が重罪で逮捕された事例から、AI プロバイダの法的責任と監視体制の境界が問われている。
リリース: 2026-10-04 · 読了 3 分記事の要約
1. 核心（What）
- フロリダ州ボンニータ・スプリングスの女性が、Claude を日記代わりに使って警察署への襲撃計画を書き込んだことで、重罪に問われていることが判明した。
- Claude の安全システムが当該入力をフラグ付けし、人間のレビュアーによる精査を経て法執行機関に通報された。
- 被疑者はフロリダ州法（Florida Statute 836.10）に基づき、暴力の書面による脅迫の容疑で逮捕・勾留された。
- Anthropic は、人命の損失や重大な身体的危害を防ぐために必要と判断した場合、緊急時にユーザー情報を共有する方針をとっている。
2. 影響（Why）
- AI を私的空間と誤認するリスク: チャットボットをローカルな日記帳と誤解して機微な表現を入力すると、商用クラウドの安全フィルターを通じてプロバイダに実時間で監視・通報されるリスクが実証された。
- 国内 SaaS 事業者への法務・プライバシー規約の見直し圧力: [国内 AI アプリ開発・SaaS 運営企業] のような組織では、ユーザーが入力する個人データやプロンプトの監視義務とプライバシー保護のバランスを再定義し、利用規約の免責条項を早急に改訂する必要がある。
3. 根拠・詳細（How）
- 安全システムによるフラグ付けと人的精査のワークフロー: システムによる自動フラグ付けの後に人間のレビュアーが介入し、Florida Statute 836.10 が規定する「他者が閲覧可能な形での脅迫」の法的基準を満たすと判断された時点で通報が実行された。
- 緊急時データ共有ポリシーの適用基準: Anthropic の規約における「重大な身体的危害を防ぐための限定的な緊急時開示」の規定に基づき、ローカル警察（LCSO）の捜査員への情報提供が行われた。
4. 展望・課題（Next）
- AI プロバイダの通報義務化を巡る議論: OpenAI がカナダで訴訟を抱えるなど、プラットフォーム側が脅迫や犯罪予告を事前に阻止できなかった場合の法的責任と、プライバシー侵害の境界線に関する司法判断が注目される。