跳到正文
The Verge · AI

Google 地球里塞了个 AI 生图工具,已经能造出以假乱真的卫星照片了

Here’s the problem with putting an AI image generator in Google Earth

Google 地球新出的“Dream House”功能,本意是让你用文字生成航拍风格的房屋图片。但安全研究员 Henk van Ess 发现,只要在提示词里加上“卫星视图”,就能绕过内容过滤器,生成非常逼真的假卫星图。Google 虽然加了水印和限制,但把关键词换成“航拍视图”照样能出图。更麻烦的是,这些假图被反向图片搜索收录后,会出现在第三方地图数据...

推荐理由:这事最麻烦的不是能生成假图,而是假图已经流出去了。研究员用一句提示词就绕过了 Google 的内容过滤器,生成的假卫星图被反向图片搜索收录后,直接出现在第三方地图数据里。Google 加了水印,但把关键词从“卫星视图”换成“航拍视图”照样出图,说明过滤机制没卡住语义。正文没披露 Google 后续会不会清理已收录的假图,这点先别太激动,但数据污染的链条已经跑通了。

读原文 ↗导出 Markdown