METR 警告 AI 能力进步过快,专家难以及时可靠评估新系统安全性
AI is getting better faster than experts can reliably test whether new systems are safe, METR warns
METR 警告,AI 研究能力的快速提升可能使人类难以及时理解、评估和应对新 AI 系统的灾难性风险。模型在有直接反馈的明确编码和计算任务上,多数时候已超过经验丰富的专业人士,但尚未超过顶尖专家组成的大型团队;可处理的任务时长每 3.6 个月翻倍,简单外推预计到 2027 年 7 月,对最长 200 小时任务的成功率可达 50%。