Anthropic 联合创始人：AI 可能需要强制安装“紧急停止开关”

AI 'kill switch' may need to be mandatory, Anthropic co-founder tells BBC

Anthropic 联合创始人 Jack Clark 对 BBC 说，社会最终可能需要立法，强制 AI 公司安装一个可被第三方验证的“紧急停止开关”。他说多数实验室（包括 Anthropic）现在都有办法拔掉电源，但应该让这成为硬性要求。同一篇报道里，Anthropic 科学家 Evan Hubinger 个人认为 AI 在十年内导致人类灭绝的概率超过...

推荐理由：Anthropic 联合创始人通过 BBC 公开呼吁立法强制安装可验证的 AI 紧急停止开关，同篇报道还披露了内部科学家对灭绝风险的个人估计。跨源验证确认了这条政策信号，不是孤例。分数没给更高，是因为目前只有标题和摘要细节，正文没展开具体技术方案和立法路径。