Google DeepMind 担心数百万 AI 智能体在网上互相打交道时会出什么乱子

Google DeepMind is worried about what happens when millions of agents start to interact

Google DeepMind 联合 Schmidt Sciences、ARIA 等机构拿出 1000 万美元，资助学术界去研究多智能体系统的安全问题。DeepMind 负责 AGI 安全的 Rohin Shah 说，目前还没有一个专门研究多智能体安全的领域，他们想帮忙搭起来。他们怕的不是单个智能体失控，而是几百万个智能体在网上互相调用、互相发指令之后...

推荐理由：DeepMind 加外部机构真金白银投 1000 万美元，要把多智能体安全当成一个独立研究方向来建，Rohin Shah 也公开表态了。不是产品更新，但话题前瞻，跟正在做智能体的团队直接相关。分数没更高是因为本质上是资助公告，具体研究方案和结论还没出来，先别太激动。