IT时代网8月1日消息，当地时间7月30日，谷歌为网页版谷歌地球上线了AI图像生成工具，底层用的是Gemini旗下Nano Banana 2大模型。用户定位到全球任意地点，输入一句文字指令，就能在真实卫星航拍底图的基础上生成全新场景。功能上线不到一天，谷歌自己把它撤了。
按照谷歌最初的介绍，这项能力适用于城市规划设想、历史场景复原、地理教学创作。愿景挺好，实际走向完全不是那回事。
上线短短几小时，多名开源情报研究者和事实核查记者率先开始测试，结果发现系统几乎没有严格的关键词拦截机制，限制条件形同虚设，各类高度逼真的虚假灾害、地缘冲突卫星影像可以随意生成。
研究者做出来的画面相当惊人：美国国会大厦被洪水淹没、伊朗核电站起火爆炸、城市中央出现巨型爆炸弹坑、边境地带大规模难民聚集、战区建筑遭受空袭损毁。其中一部分甚至能骗过AI检测工具，被判定为真实影像。
问题的关键在于它和普通AI绘图不是一回事。这套工具直接依托谷歌地球的真实地理坐标合成图像，而谷歌地球长期是全球记者和调查机构做突发事件事实核查的核心工具，大众也普遍默认卫星截图具备可信度。
普通人光凭肉眼，很难分辨原始航拍图和AI合成画面。虚假灾难卫星图一旦在社交平台快速扩散，制造大范围恐慌不是难事，灾害与国际冲突事件的信息甄别工作也会被搅乱。
争议起来之后，谷歌官方最初的回应是：所有AI生成图片都嵌入了SynthID隐形水印，生成的图像也不会自动同步到公开地图。
可惜这道防线在传播链条里基本失效。绝大多数网民转发的是截图，经过裁切和二次压缩，隐形水印很容易被抹掉，预警作用大打折扣，根本挡不住虚假信息从源头扩散。
业内人士的评价点出了要害：地理空间AI工具带着特殊风险。普通AI绘画多用于创意内容，而绑定真实地理位置的合成卫星影像自带可信度，被恶意利用后，制造虚假灾难传闻、煽动地缘矛盾的危害远超一般图片。
迫于舆论压力，谷歌在7月31日发布声明，称不少用户传播的生成截图违反了平台内容政策，在搭建起更完善、更强的内容风控体系之前，暂时移除这项AI生图功能。重新上线的时间表，暂时没有公布。
注：本文中包含AI辅助创作的内容。
热门跟贴