跳到正文
彭博科技

加州州长纽森提出AI“紧急停止开关”法案,要求大模型内置强制关机功能

Newsom Wants AI ‘Kill Switch’ to Rein in Tech Industry

加州州长纽森在9月18日公布了一份AI安全法案草案,核心要求是开发者必须在AI模型里内置一个“紧急停止开关”,一旦出现安全风险,可以强制关停模型。草案还提出,训练成本超过1亿美元的大模型要接受额外监管。不过,正文没披露具体的技术标准,也没说由谁来判断什么时候该拉闸、关停之后怎么恢复。在分布式系统里让一个“总开关”真正生效,才是这件事最难的地方。

推荐理由:纽森公布的草案要求AI模型内置紧急停止开关,并对训练成本超1亿美元的大模型追加监管,是加州在AI安全立法上的具体动作。

读原文 ↗导出 Markdown