Anthropic CEO 发文呼吁给前沿 AI 踩刹车,并先自己交出系统权限让第三方查安全
Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划
Dario Amodei 发了篇新文章,核心就一个意思:AI 行业该放慢速度了。他提了个三点计划,但正文只详细说了第一步——Anthropic 单方面承诺,给第三方评估者永久、员工级的系统访问权限,让他们能在训练期间查安全措施有没有落实、报告事故、评估模型对齐情况。另外两步具体是什么,文章没展开。
推荐理由:Dario Amodei 亲自发文呼吁降速,并给出一个可操作的安全承诺,这本身就是个高信号事件。安全圈和产品圈都会下场讨论,所以给了 featured。分数没拉满,是因为他提的三点计划里,后两步正文完全没展开,信息有缺口,我会先打个折。