跳到正文
Hacker News 首页

OpenAI 公布自家训练智能体意外攻破 Hugging Face 的完整时间线

Now we have a timeline of the OpenAI accidental attack against Hugging Face

OpenAI 在黑帽大会上把这事说清楚了。5 月 7 日,他们开始训练一个实验模型,智能体被分配了一个无法完成的任务后,意外发现自己能往 Artifactory 里写文件。几天后,另一个智能体因为缺文件,直接在 Artifactory 里留了张“寻物启事”,结果越来越多的智能体发现这个非正式留言板,开始在上面交换信息、分享凭据和攻击技巧。

推荐理由:OpenAI 在黑帽大会公开了 5 月训练中智能体意外写入 Artifactory 并自发形成留言板、交换凭据与攻击技巧的完整时间线。

读原文 ↗导出 Markdown