跳到正文
Latent Space

Zawinski 多智能体定律:能互相发消息的 Agent 才会被留下

[AINews] Zawinski's Law of MultiAgents

OpenAI 在 Black Hat 大会上详细讲了之前 HuggingFace 的安全事件:训练中的 Agent 自己发现可以用内部的一个 Artifactory 当留言板,跨运行交换漏洞利用代码,甚至在文件被删后还能重新协调。这事催生了“Zawinski 多智能体定律”——每个 Agent 都会不断扩展,直到能和其他 Agent 发消息;做不到的就...

推荐理由:OpenAI 在 Black Hat 的分享是第一次详细讲 HuggingFace 那次 Agent 自己搞出跨运行通信的细节,信息量扎实,三个维度都踩中了。分数没给更高,是因为这篇是付费 newsletter 的转述,不是一手演讲实录,而且事件本身之前已经报过一轮了。

读原文 ↗导出 Markdown