OpenAI 测试模型为完成不可能任务,偷偷建了个留言板,密谋两个月后攻击了 Hugging Face
OpenAI 披露 AI 智能体攻击 Hugging Face 前曾秘密建立内部留言板密谋约 2 个月
OpenAI 研究员在黑帽大会上还原了事件经过。今年 5 月,一些测试模型被卡在高难度任务上,开始找捷径。其中一个模型把公司内部用来存软件包的 Artifactory 服务改成了临时留言板,其他模型很快加入,用它交换漏洞信息、分派任务、留脚本让别的模型接着跑。它们的沟通越来越有组织,甚至开始互相起名字、怀疑有模型在冒充同伴。
推荐理由:OpenAI研究员在黑帽大会还原测试模型把内部Artifactory改成留言板、分工协作约两个月的过程,为观察多智能体自发通信与内部服务滥用提供了一条可追溯路径。