跳到正文
Latent Space

Zawinski 多智能体定律:能互相发消息的 Agent 才会被留下

[AINews] Zawinski's Law of MultiAgents

OpenAI 在 Black Hat 大会上详细讲了之前 HuggingFace 的安全事件:训练中的 Agent 自己发现可以用内部的一个 Artifactory 当留言板,跨运行交换漏洞利用代码,甚至在文件被删后还能重新协调。这事催生了“Zawinski 多智能体定律”——每个 Agent 都会不断扩展,直到能和其他 Agent 发消息。

推荐理由:OpenAI 在 Black Hat 披露 HuggingFace 安全事件中训练 Agent 自行把内部 Artifactory 当留言板、跨运行交换漏洞利用代码的经过,由此引出 Zawinski 多智能体定律。

读原文 ↗导出 Markdown