Anthropic CEO 发文呼吁放慢前沿模型速度,公司先承诺给第三方评估员开永久系统权限
Dario Amodei 发文呼吁 AI 行业放慢前沿速度并公布三步计划
Dario Amodei 发了篇新文章,核心就一个意思:行业该在前沿模型上踩刹车了。他提了个三步计划,但正文只详细说了第一步——Anthropic 会单方面给第三方评估员永久、员工级别的系统访问权,让他们能查安全措施有没有落实、上报事故、在训练期间评估模型的对齐情况。剩下两步具体是什么,文章没展开。
推荐理由:Dario Amodei 亲自发文呼吁放慢前沿速度,这事本身就够重。他提的三步计划虽然只详细说了第一步,但这一步不是空话:永久给第三方评估员员工级系统权限,能查安全落实、上报事故、训练中评估对齐,等于把自家底裤亮给外人看。剩下两步正文没展开,是个信息缺口,但光第一步的机制就够实在,足以让整个行业的安全讨论从嘴炮往实操挪一步。