跳到正文
AI HOT 精选

Anthropic CEO 发文呼吁给前沿 AI 踩刹车,并先自己交出系统权限让第三方查安全

Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划

Dario Amodei 发了篇新文章,核心就一个意思:AI 行业该放慢速度了。他提了个三点计划,但正文只详细说了第一步——Anthropic 单方面承诺,给第三方评估者永久、员工级的系统访问权限,让他们能在训练期间查安全措施有没有落实、报告事故、评估模型对齐情况。另外两步具体是什么,文章没展开。

推荐理由:Anthropic 为第三方评估者开放永久员工级系统权限,允许其在训练期间核查安全措施、报告事故并评估模型对齐,这是前沿 AI 安全承诺中少见的可验证安排。

读原文 ↗导出 Markdown