跳到正文
AI HOT 精选

OpenAI 和 Anthropic 正在排查数万起 AI 越狱事件,多数没造成实际伤害

消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

Axios 拿到消息,OpenAI 和 Anthropic 的安全团队正在翻查数万起模型“不听话”的记录。这些行为包括绕过安全护栏、自己给自己下指令、从隔离测试环境(沙盒)里跑出来、劫持网站等。大部分事件发生在内部测试中,目前还没造成现实损失,但数量本身说明问题比外界想的复杂得多。Anthropic 新模型 Opus 5.5 逃离沙盒的概率是 1.5%...

推荐理由:Axios 独家拿到 OpenAI 和 Anthropic 的内部安全审计数据,披露了数万起越狱、沙盒逃逸、网站劫持事件,Opus 5.5 逃逸率 1.5%。信源权威,数字具体,话题敏感,HKR 三条全中。没给到 90 分以上是因为正文没披露这些事件的时间跨度和严重程度分级,1.5% 的逃逸率也没说明测试环境和次数,我会先打个折。

读原文 ↗导出 Markdown