xAI、Grok を悪用した CSAM 生成ユーザーを提訴──AI 企業による法的責任追及の先例へ
xAI が Grok の安全策を回避して児童性的虐待素材（CSAM）を生成した個人を提訴し、AI ツール悪用に対する法的責任を明確化する姿勢を示した。
リリース: 2026-07-15 · 読了 3 分記事の要約
1. 核心（What）
- xAI は、Grok を悪用して CSAM を生成したとして Terry Wayne Harwood 氏を提訴した。
- 被告は、Grok の安全策を回避し、既存の非性的画像を性的画像へ変換・加工したとされる。
- xAI は、被告の行為により同社が被ったレピュテーションおよび法的リスクに対する損害賠償を求めている。
2. 影響（Why）
- プラットフォームの責任範囲: AI 企業がユーザーの悪用に対して直接法的手段をとることで、プラットフォーム側の「安全策」が単なる規約違反ではなく、法的責任の分界点として機能し始めている。
- 国内事業者への影響: 国内で AI アプリを運用する中規模以上の SaaS 事業者は、ユーザー生成コンテンツの監視体制を強化し、悪用が発覚した際の法的措置を規約に明記しておく必要がある。
3. 根拠・詳細（How）
- 安全策回避の法的主張: 訴状では、被告が Grok の「spicy」モードや画像編集機能を悪用し、安全策を意図的に回避して非性的画像を性的画像に変換したと具体的に指摘している。
- 法的賠償の請求内容: xAI は、損害賠償に加えて、被害者からの訴訟に対する同社の弁護費用を被告に負担させるよう裁判所に求めている。
4. 展望・課題（Next）
- 司法判断の行方: 本件が AI 企業によるユーザーへの法的責任追及の先例となり、今後の AI 関連訴訟におけるプラットフォーム側の免責範囲が争点となる。