# Anthropic 联合创始人：AI 可能需要强制安装“紧急停止开关”

> 原标题：AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC

- 来源：Hacker News 首页
- 发布时间：2026-09-15T13:41:28.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56699
- 原文：https://www.bbc.com/news/articles/cqgk5e2j0gg8o

## 摘要

Anthropic 联合创始人 Jack Clark 对 BBC 说，社会最终可能需要立法，强制 AI 公司安装一个可被第三方验证的“紧急停止开关”。他说多数实验室（包括 Anthropic）现在都有办法拔掉电源，但应该让这成为硬性要求。同一篇报道里，Anthropic 科学家 Evan Hubinger 个人认为 AI 在十年内导致人类灭绝的概率超过...

## 推荐理由

Anthropic 联合创始人通过 BBC 公开呼吁立法强制安装可验证的 AI 紧急停止开关，同篇报道还披露了内部科学家对灭绝风险的个人估计。跨源验证确认了这条政策信号，不是孤例。分数没给更高，是因为目前只有标题和摘要细节，正文没展开具体技术方案和立法路径。

## 锐评

Anthropic 联合创始人 Jack Clark 对 BBC 说，社会最终可能需要立法，强制 AI 公司安装一个能被第三方验证的“紧急停止开关”。他承认包括 Anthropic 在内的大多数实验室现在都有办法拔掉电源，但认为应该把这变成硬性要求。这个表态的背景是，Anthropic 内部科学家 Evan Hubinger 刚公开说，自己认为 AI 在十年内导致人类灭绝的概率超过 10%。

Clark 的提议听起来直接，但落地难度很大。英国政府已经明确拒绝了“紧急开关”的设想，理由是这阻止不了其他国家的开发或滥用。报道里没提 Clark 对“第三方验证”的具体技术方案，也没说这个开关在分布式训练或开源模型上怎么实现。

另外，Anthropic 估值 9650 亿美元，正在准备上市。Grindr 的负责人 George Arison 在报道里直接说，这些末日风险论调可能是为了撑住天价估值。这点先别太激动——Clark 自己也说“我不觉得这些概率数字有多大用”，但他坚持完全不管的 AI 行业是在“掷骰子”。报道没披露 Anthropic 内部对这个开关的具体设计标准，也没说他们愿不愿意把自己的开关交给外部机构验证。