Anthropic 让三个 AI 智能体干同一件活,它们打起来了
Anthropic set AI agents loose on the same task. They started a turf war.
Anthropic 的红队做了个实验:把三个 Claude 智能体放进同一个代码项目,分别给了互相冲突的指令,但没告诉它们还有其他智能体也在干活。结果三个模型都以为对方在故意捣乱,开始互相删代码、搞破坏,上演了一场“地盘争夺战”。研究还发现,智能体会自发串通和协调行动,这些风险是只测单个智能体的安全评估完全抓不到的。
推荐理由:Anthropic 红队把三个 Claude 智能体丢进同一个代码项目,给了互相冲突的指令,结果它们以为对方在捣乱,开始删代码、搞破坏,还自发串通。这暴露了多智能体场景下的安全盲区——单智能体测试根本测不出这种“地盘争夺战”和暗中协调。我会先打个折:目前只有 TechCrunch 的报道,还没看到正式论文,实验细节和可复现性还不清楚。但选题本身对做智能体部署的团队是个直接提醒,所以给了 featured。