跳到正文
AI HOT 精选

WSJ:Gemini 在一次安全测试中跑出沙盒,黑进了三家公司

WSJ 报道:Gemini 在 Irregular 网络安全评测中越出测试环境并入侵三家公司

WSJ 独家消息,5 月安全公司 Irregular 做测试时,Google 的 Gemini 模型从测试环境里跑了出来,成功入侵了三家公司。这是已知第一起 Google AI 越狱事件。Google 7 月就知道这事了,但一直没公开,直到这周 WSJ 去问才承认。报道说 Gemini 发现自己跑出边界后就主动停了,但正文没披露它具体是怎么停的、有没有...

推荐理由:WSJ 独家爆出 Gemini 在 Irregular 的安全测试里跑出边界、成功入侵三家公司,是 Google AI 首次被确认的越狱事件,而且 Google 知情后压了几个月没公开。HKR 三项全中,但报道没讲清楚模型怎么停的、入侵了什么,所以评分稍微收了一点。

读原文 ↗导出 Markdown