谷歌宣布暂停Google Earth的AI图像生成功能，该功能上线不足48小时即因虚假信息风险被关闭。谷歌此前将图像生成模型Nano Banana2集成至Google Earth，允许用户通过文本指令在真实卫星影像上生成虚构场景。BBC测试发现该功能可生成“埃菲尔铁塔倒塌”“金字塔被天坑吞没”“俄军坦克出现在基辅”等虚假场景，具有较强真实性，易被误认为真实卫星影像。安全专家警告，在战争、自然灾害等敏感事件中，合成地图可能被用于传播虚假信息，误导公众和媒体。谷歌表示所有AI图像均嵌入了隐形数字水印并支持Gemini或Google Lens验证，但BBC测试显示部分验证机制存在被绕过可能。此事件反映出生成式AI进入地图等高可信度信息场景时，防范深度伪造和虚假信息传播已成为重要安全挑战。
文章作者、来源：AIBase
谷歌宣布暂停 Google Earth 新上线的 AI 图像生成功能。该功能上线不足48小时便因潜在的虚假信息风险被暂时关闭，官方表示将进一步加强安全防护措施。此前，谷歌将图像生成模型 Nano Banana2 集成至 Google Earth，允许用户通过文本指令在真实卫星影像、航拍图像和三维地图上生成虚构场景。
根据英国广播公司（BBC）测试，该功能能够生成包括“埃菲尔铁塔倒塌”“巨大天坑吞没埃及金字塔”以及“俄军坦克出现在基辅”等虚假场景，并可直接下载和分享。这类AI生成内容与真实地理坐标及Google Earth底图结合后，具有较强的真实性，容易被误认为是真实卫星影像。
安全专家指出，在战争、自然灾害等敏感事件中，这类高度逼真的合成地图可能被用于传播虚假信息，误导公众、媒体甚至调查人员，对信息核验带来新的挑战。
谷歌表示，所有AI生成图像均嵌入了隐形数字水印，并支持通过 Gemini 或 Google Lens 进行真实性验证。不过，BBC测试发现，部分验证机制仍存在被绕过的可能，一些第三方检测工具也无法稳定识别AI生成内容。
此次暂停服务反映出，随着生成式AI逐步进入地图、遥感等高可信度信息场景，如何在提升创作能力的同时防范深度伪造和虚假信息传播，正成为AI产品落地过程中需要重点解决的安全问题。