加州州长纽森推动 AI 紧急关停法案，要求大模型预留远程“急停开关”

Gavin Newsom advances AI ‘kill switch’ in response to safety fears

加州州长加文·纽森正在推进一项法案，要求开发超大规模 AI 模型的公司必须给模型装上远程“急停开关”，以便在出问题时能紧急关停。法案划了一条硬门槛：训练算力超过 10 的 26 次方 FLOPS 的模型才受约束，目前只有少数几家顶尖实验室够得上这个标准。除了急停开关，开发商还得每年提交安全报告；一旦模型出现自我复制、绕过人类监管这类危险能力，必须立刻上...

推荐理由：加州拿出了具体的监管动作，有明确的算力门槛和上报要求，不是空喊口号。没给更高分是因为法案还在推进阶段，还没正式落地，而且正文没披露更多技术细节，实际执行效果还得看。