# Paul Christiano：能够推翻政府的 AI 可能距今仅 12 个月

> 原标题：Paul Christiano – We could be 12 months away from AIs that can overthrow the government

- 来源：Dwarkesh Patel 播客
- 发布时间：2026-11-16T17:46:28.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/fg3tj6nq9z4wtss8hyrxih6u5
- 原文：https://www.dwarkesh.com/p/paul-christiano-2

## 摘要

Paul Christiano 在 Dwarkesh Patel 播客中表示，若保持当前发展速度而不减速，1 年内出现超智能的概率约为 1/3。他主张实验室暂停预训练和 RL 等方面的算法进步，直到能够保护模型权重与研究秘密，并判断系统是否受到充分控制。他强调这些是个人观点，不代表 OpenAI 董事会立场，并警告模型或算法失窃可能让实验室在察觉失控风险后仍难以停止竞赛。

## 推荐理由

Paul Christiano 将暂停算法进步的主张与模型失窃风险联系起来，指出安全防护不足会让实验室在发现失控后难以减速。

## 锐评

1 年内有三分之一概率做出推翻政府的超智能，这个数我不信。

Paul Christiano 想让实验室暂停预训练和 RL 进步，在现实里根本行不通。就算防失窃和防失控的担忧都对，竞赛环境里也没有减速的机制。只要对手还在往前跑，任何一家单方面停下算法研发都是找死。拿推翻政府这种末日假设去劝停训练，安全研究员说了不算，谁都不会把跑着的方法停下来。
