Anthropic CEO 发文呼吁放慢前沿模型速度,公司先承诺给第三方评估员开永久系统权限
Dario Amodei 发文呼吁 AI 行业放慢前沿速度并公布三步计划
Dario Amodei 发了篇新文章,核心就一个意思:行业该在前沿模型上踩刹车了。他提了个三步计划,但正文只详细说了第一步——Anthropic 会单方面给第三方评估员永久、员工级别的系统访问权,让他们能查安全措施有没有落实、上报事故、在训练期间评估模型的对齐情况。剩下两步具体是什么,文章没展开。
推荐理由:Anthropic 承诺向第三方评估员开放永久员工级系统权限,用于核实安全措施、上报事故并评估训练中的对齐情况,这是其放慢前沿模型三步计划中详细展开的一步。