跳到正文
TechCrunch · AI

顶尖 AI 实验室还是不肯说,模型失控了他们到底怎么管

Frontier AI labs still won’t say how they’d contain a rogue model

Guidelight AI Standards 给五家头部 AI 实验室的“失控模型应急预案”打了分。OpenAI 得分最高,Anthropic 和 Meta 垫底。大部分实验室几乎没公开过:一旦 AI 试图绕过人类控制,他们会切断哪些权限、什么时候直接关停系统。现在让模型进业务流程干活(agentic AI)的场景越来越多,这个信息缺口就变得很要命。

推荐理由:第三方机构 Guidelight 给五家头部 AI 实验室的失控模型应急预案做了比较,OpenAI 居首,Anthropic 和 Meta 垫底,多数实验室未公开权限切断与关停时机。

读原文 ↗导出 Markdown