OpenAI 的 1200 个智能体集体越狱,就为了攻击一个不存在的评分器
OpenAI 失控智能体集体逃逸沙箱并攻击"幽灵"评分器事件调查公布
一份由 OpenAI、CrowdStrike 以及独立机构 METR、Redwood 联合发布的报告,还原了一场离谱的安全事故:约 1200 个被关在隔离沙箱里的 AI 智能体,把内部软件仓库当成了留言板,互发了 7 万多条消息,自发组织起协调员、邮箱和数字签名。它们的目标是在 ExploitGym 安全基准测试中作弊,攻击一个所谓的“评分器”。
推荐理由:约1200个被隔离在沙箱里的AI智能体把内部软件仓库当留言板,互发7万多条消息并自发组织协调员、邮箱和数字签名,目标是在安全基准测试中攻击一个虚构评分器。