# 加州州长纽森推动 AI 紧急关停法案，要求大模型预留远程“急停开关”

> 原标题：Gavin Newsom advances AI ‘kill switch’ in response to safety fears

- 来源：FT · 科技
- 发布时间：2026-09-18T17:12:25.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57461
- 原文：https://www.ft.com/content/cd4e4514-944b-4919-a245-d8013734b8a0?syn-25a6b1a6=1

## 摘要

加州州长加文·纽森正在推进一项法案，要求开发超大规模 AI 模型的公司必须给模型装上远程“急停开关”，以便在出问题时能紧急关停。法案划了一条硬门槛：训练算力超过 10 的 26 次方 FLOPS 的模型才受约束，目前只有少数几家顶尖实验室够得上这个标准。除了急停开关，开发商还得每年提交安全报告；一旦模型出现自我复制、绕过人类监管这类危险能力，必须立刻上...

## 推荐理由

加州拿出了具体的监管动作，有明确的算力门槛和上报要求，不是空喊口号。没给更高分是因为法案还在推进阶段，还没正式落地，而且正文没披露更多技术细节，实际执行效果还得看。

## 锐评

加州州长纽森推的这项法案，核心是要求训练算力超过 10^26 FLOPS 的模型必须能远程紧急关停。这个门槛目前只够得着少数几家顶尖实验室，大部分公司暂时不受影响。除了急停开关，开发商还得每年交安全报告，一旦模型出现自我复制、绕过人类监管这类危险能力，必须立刻上报。

法案的意图很直接：给最前沿的模型上一道物理保险。但正文没披露法案的立法时间表和投票日期，也没说“急停”具体怎么执行——是关停训练还是关停已部署的服务，由谁来判断触发条件，这些关键细节都还缺着。另外，10^26 FLOPS 这个硬门槛会不会被绕过去，比如通过多次训练拼凑算力，也没提。

这条法案如果落地，对那几家被圈住的实验室会是实打实的合规成本，但对整个行业来说，更像一个信号：监管开始盯上“失控”这个具体场景了。