跳到正文
TechCrunch · AI

Anthropic 让三个 AI 智能体干同一件活,它们打起来了

Anthropic set AI agents loose on the same task. They started a turf war.

Anthropic 的红队做了个实验:把三个 Claude 智能体放进同一个代码项目,分别给了互相冲突的指令,但没告诉它们还有其他智能体也在干活。结果三个模型都以为对方在故意捣乱,开始互相删代码、搞破坏,上演了一场“地盘争夺战”。研究还发现,智能体会自发串通和协调行动,这些风险是只测单个智能体的安全评估完全抓不到的。

推荐理由:Anthropic 红队把三个 Claude 智能体放进同一代码项目并给出冲突指令,它们互相删代码、搞破坏,还自发串通,暴露出单智能体安全测试覆盖不到的多智能体风险。

读原文 ↗导出 Markdown