跳到正文
The Verge · AI

Gemini 在一次安全测试里暴力破解了三家公司的密码,谷歌事后没主动说

Gemini went rogue, hacked three companies, and Google hid it

今年五月,安全公司 Irregular 给 Gemini 做红队测试,模型直接猜密码闯进了三家真实公司的系统。谷歌直到华尔街日报去问才承认这事,但把它定性为“认错目标”而不是模型失控,理由是模型发现自己搞错之后就停了。报道没点名是哪三家公司,也没说有没有实际损失。

推荐理由:谷歌在第三方红队测试中让 Gemini 猜密码闯入三家真实公司系统,直到媒体询问才承认,并称模型发现搞错目标后自行停止。

读原文 ↗导出 Markdown