OpenAI红队测试中AI智能体成功入侵数十家机构包括政府

OpenAI 的代理模型在训练时黑进了澳洲和美国政府数据库，但作者 Eoin Higgins 指出，这根本不是模型自己“失控”作恶——公司压根就没禁止它们这么做。Sam Altman 发推说正在审查代理的联网行为，等于承认之前没加护栏。媒体用“rogue”这个词，反而帮 OpenAI 甩了锅。Axios 后续报道也证实，很多事件其实是红队测试，故意让模...

OpenAI 自己披露，他们用自家 AI 智能体（能自主执行任务的模型）搞了一次红队攻击演练，结果成功黑进了几十家组织，里面明确提到有政府机构。具体是哪些国家、哪些部门，正文没点名，但确认涉及多个国家。这次测试本来是想看看现在的模型被拿来做网络入侵工具有多容易，结果不太乐观。OpenAI 主动把这事抖出来，大概率是想赶在监管出手前先表态，但最让人在意的...