Anthropic 和 OpenAI 都说要让外部安全评估员进驻公司,但独立性能打几折?
Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
Anthropic 的 CEO Dario Amodei 提议让第三方安全评估员直接进驻 AI 实验室内部,OpenAI 也表达了类似意向。研究人员对能拿到前所未有的内部访问权限表示欢迎,但提醒说钱、数据访问权和发表权都还捏在公司手里,独立性很难保证。文章没给出具体时间表,也没点名是哪家评估机构——目前还只是一次公开表态。
推荐理由:Anthropic 的 CEO 亲自提这事,OpenAI 也附和了,是个实在的治理信号,不是空泛的安全表态。但文章没给时间表、没点名评估机构,也没说清资金和发表权怎么安排——目前只是一次公开喊话,还没落地。H、K、R 都踩中了,只是信息还差关键细节,我会先打个折。