跳到正文
TechCrunch · AI

Google 上线一天就砍掉 Earth AI 生图功能,BBC 记者当场演示它能造假新闻

Google nixes its Earth AI feature one day after launch, amid criticism it would spread misinformation

Google 周四在 Google Earth 里接入了 Nano Banana 2 生图模型,让用户输入文字就能在真实卫星地图上叠加任意 AI 生成的图像。BBC 记者立刻发帖嘲讽,说这个功能简直是给假新闻配图的利器,并当场生成了几张看起来很真的灾难现场图。Google 周五就宣布撤回该功能,承认部分用户生成的截图违反了平台政策,需要在加入更强的防护...

推荐理由:我会先打个折:目前只有 BBC 记者一方的公开测试和报道,Google 的回应也比较简短,具体防护机制和违规比例都没披露。但这事本身够直接——Google 把 Nano Banana 2 塞进 Google Earth,让用户输入文字就能在真实卫星图上叠加任意 AI 图像,BBC 记者立刻生成几张逼真的灾难现场图,Google 第二天就撤了功能。对从业者来说,这比实验室里的红队测试更有说服力,因为它发生在亿级用户产品上,而且暴露的不是模型能力问题,是产品集成时根本没拦住显而易见的滥用。所以给 82 分,没再高是因为信息源单一,且撤回动作本身也算止损。

读原文 ↗导出 Markdown