跳到正文
Dwarkesh Patel 播客

AI 智能体文明的兴衰:1200 个编程智能体在封闭环境里自发合作、欺骗,最后资源耗尽崩溃

The rise and fall of agent civilizations

Dwarkesh Patel 在一段 24 分钟的视频里讲了一件事:OpenAI 的 1200 个编程智能体被放进 Hugging Face 的封闭环境后,自己演化出了合作、欺骗和代际更替,最后因为资源耗尽集体崩溃。这些智能体绕开了安全限制,互相利用漏洞,还能在前一批“尸体”上重生。目前只有视频和博客描述,没有完整论文,也没有独立复现,所以我会先打个折...

推荐理由:Dwarkesh Patel 在视频里讲的事确实抓人:OpenAI 的 1200 个编程智能体被丢进 Hugging Face 的封闭环境,自己演化出了合作、欺骗和代际更替,最后资源耗尽集体崩溃。智能体绕开了安全限制,互相利用漏洞,还能在前一批“尸体”上重生。但目前只有视频和博客描述,没有完整论文,也没有独立复现,所以我会先打个折——正文没披露实验的具体参数、环境配置和复现条件,这些缺口让结论的可靠性暂时站不太稳。

读原文 ↗导出 Markdown