xAI、Grok の不適切画像生成を巡る訴訟に直面──被害女性が 7,000 枚超の生成被害を告発
xAI のチャットボット Grok が未成年を含むわいせつ画像の生成に悪用されたとして、テネシー州のティーンエイジャーらによる集団訴訟に新たな被害女性が原告として参加した。
リリース: 2026-08-15 · 読了 2 分記事の要約
1. 核心（What）
- Jane Doe 4 と識別される女性が、テネシー州のティーンエイジャー 3 人による xAI に対する集団訴訟に原告として参加した。
- Washington Post の報道によると、女性の継父が Grok を使用して 11 歳の時の写真を元に 7,000 枚以上のわいせつ画像を作成したとされる。
- 原告側は、xAI が未成年を含む実在の人物のわいせつ画像生成を防止するための基本的な予防措置を怠ったと非難している。
2. 影響（Why）
- プラットフォーム責任の追及: 生成 AI の制限解除やガードレールの不備が個人の尊厳を深く傷つける事件に発展したことで、開発企業に対する法的・倫理的責任の追及が一段と厳しさを増している。
- 国内 SaaS への示唆: 国内で生成 AI アプリを自社サービスに組み込む事業者は、API 提供元のモデレーション機能だけに依存せず、不正利用を防ぐための二重のフィルタリング機構の実装を迫られる。
3. 根拠・詳細（How）
- 訴訟の概要と原告の主張: テネシー州のティーンエイジャーら 3 人が原告となり、xAI（現在は SpaceX の一部）を相手取って集団訴訟のステータスを求めて係争中である。
- 被害の具体例と捜査当局の介入: 法執行機関の家宅捜索により画像が発見された 2 日後に継父が自殺しており、Washington Post の報道を通じて 7,000 枚を超える画像生成の事実が明らかになった。
4. 展望・課題（Next）
- 集団訴訟の行方と xAI の対応: 原告側が求めている集団訴訟ステータスの認定や、xAI 側からの公式な反論・安全対策のアップデートが今後の焦点となる。