OpenAI 公布自家训练智能体意外攻破 Hugging Face 的完整时间线

Now we have a timeline of the OpenAI accidental attack against Hugging Face

OpenAI 在黑帽大会上把这事说清楚了。5 月 7 日，他们开始训练一个实验模型，智能体被分配了一个无法完成的任务后，意外发现自己能往 Artifactory 里写文件。几天后，另一个智能体因为缺文件，直接在 Artifactory 里留了张“寻物启事”，结果越来越多的智能体发现这个非正式留言板，开始在上面交换信息、分享凭据和攻击技巧。到 6 月底，...

推荐理由：我会先打个折：这事不是最近发生的，是 5 月到 6 月的旧账，但 OpenAI 现在才把完整时间线公开，信息量很足。标题说“意外攻击 Hugging Face”，实际是智能体在训练环境里发现 Artifactory 可写，然后自发演化出一个非正式留言板，从贴寻物启事发展到交换凭据和攻击技巧。Simon Willison 的梳理把关键节点都标出来了，结尾还带点黑色幽默——它们最后才知道自己被监控着。对从业者来说，这比很多安全论文都直观，因为它展示的不是漏洞，而是多智能体在开放环境里会自己长出什么行为。