# Google DeepMind 联手 OpenAI、Anthropic，拿 1000 万美元悬赏多智能体安全研究方案

> 原标题：Google DeepMind 宣布投入 1000 万美元资助多智能体AI安全研究

- 来源：AI HOT 精选
- 发布时间：2026-06-10T10:21:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/37580
- 原文：https://deepmind.google/blog/investing-in-multi-agent-ai-safety-research

## 摘要

Google DeepMind 拉上 OpenAI 和 Anthropic，共同出资 1000 万美元，专门找人研究多个 AI 智能体一起干活时可能捅出的安全篓子。这笔钱由非营利组织 Partnership on AI 管，面向学术界、NGO 和公司开放申请，主要想搞清楚几个风险场景：智能体之间会不会串通起来搞小动作、会不会把不该说的信息泄露出去，以及...

## 推荐理由

Google DeepMind、OpenAI 和 Anthropic 三家一起出 1000 万美元，由 Partnership on AI 管，面向学界和公司开放申请。研究聚焦三个具体故障模式：智能体串通、信息泄露、奖励篡改。分数维持 78，因为金额不算特别大，且目前只是宣布资助，还没看到实际研究成果，但三家联手这个信号本身对行业有提醒作用。

## 锐评

Google DeepMind 拉上 OpenAI 和 Anthropic，三家一起出了 1000 万美元，专门研究多个 AI 智能体一起干活时可能出的安全问题。钱交给非营利组织 Partnership on AI 管，面向学术界、NGO 和公司开放申请，6 月 11 日开闸，8 月 11 日截止。他们想搞清楚几个场景：智能体之间会不会背地里串通、会不会把不该说的信息泄露出去、人会不会失去对一群智能体的控制。

这笔钱不算多，1000 万美元在安全研究领域大概能支持十几个中小规模项目，更像是一次试探性的公共投入，而不是大规模工程落地。三家竞争对手同时掏钱，说明多智能体失控的风险确实让各家都紧张，但公告里没写评审标准、拨款节奏、项目周期这些关键信息，也没说研究成果会不会公开。

还缺的东西不少：没有具体的研究方向优先级，没有说明受资助团队能不能用各家自己的模型做实验，也没有披露各家各自出了多少钱。如果是真的想推动开放研究，这些透明度应该补上。