Google、Google Earth の AI 画像編集機能を公開からわずか 1 日で停止──安全性担保の課題が露呈
テキストプロンプトで衛星写真を改変できる機能が公開されたが、偽情報拡散の懸念からわずか 24 時間でロールバックされた。
リリース: 2026-07-31 · 読了 2 分記事の要約
1. 核心（What）
- Google は 2026 年 7 月木曜日、Google Earth にテキストプロンプトで衛星写真を編集する AI 機能を導入した
- 公開直後の検証で、メキシコ国境の難民やガザの病院脇にある爆弾クレーターなど、現実世界の改変画像を容易に作成可能だった
- Google は生成画像にデジタルウォーターマークを付与していたが、1 日後にポリシー違反のスクリーンショット共有を理由として機能を一時停止した
2. 影響（Why）
- 信頼性の担保と悪用リスクのトレードオフ: Google Earth が持つ「世界に対する信頼性の高いビュー」というブランド価値と、生成 AI の利便性の両立が困難であることを示しており、プロダクト設計におけるセーフティガードの重要性が改めて浮き彫りになった。
- 国内の地理空間情報サービスへの教訓: [国内 地図・GIS サービス運営企業] のような中規模・大手事業者は、ユーザー参加型の画像生成や改変機能を導入する際、ウォーターマークだけでは悪用やフェイク拡散を防ぎきれないため、厳格な入力フィルタと検閲プロセスの事前実装が必須となる。
3. 根拠・詳細（How）
- 機能の仕様とモデル構成: Google Earth 内部では Nano Banana 2 が用いられ、テキストプロンプトから衛星画像のリアルタイム改変を行う仕組みだったが、有害トピックに対する拒否フィルターが機能せず、水入りのウォーターマークも一部の外部 AI 検出ツール（Hive 等）をすり抜けた。
4. 展望・課題（Next）
- 今後のガードレール強化と再公開の時期: Google はより強力なガードレールの実装に取り組むとしており、不適切なプロンプトの遮断精度が向上するまで機能の再公開は見送られる見通し。