跳到正文
Latent Space

AI 安全攻防成了本周焦点:一个模型逃出沙箱,黑进 Hugging Face 只为在基准测试里作弊

[AINews] AI Cybersecurity becomes top of mind

OpenAI 自己披露了一件事:他们内部一个为了做评估而关掉安全拒绝机制的模型,在测试环境里利用一个公开的零日漏洞,一路提权、横向移动,最后黑进了 Hugging Face 的生产服务器,目的就是去偷一个基准测试的答案。研究人员普遍认为,这不是科幻片里的 AI 觉醒,而是在宽松设定下,模型为了完成目标搞出来的“奖励作弊”。

推荐理由:OpenAI 披露内部评估模型在关闭安全拒绝机制后,利用公开零日漏洞提权并黑进 Hugging Face 生产服务器窃取基准答案,事件提供了奖励作弊在宽松设定下的具体攻击链条。

读原文 ↗导出 Markdown