跳到正文
TechCrunch · AI

Anthropic 和 OpenAI 都说要让外部安全评估员进驻公司,但独立性能打几折?

Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?

Anthropic 的 CEO Dario Amodei 提议让第三方安全评估员直接进驻 AI 实验室内部,OpenAI 也表达了类似意向。研究人员对能拿到前所未有的内部访问权限表示欢迎,但提醒说钱、数据访问权和发表权都还捏在公司手里,独立性很难保证。文章没给出具体时间表,也没点名是哪家评估机构——目前还只是一次公开表态。

推荐理由:Anthropic 与 OpenAI 提出让第三方安全评估员进驻实验室内部,研究人员认可这种内部访问权限,同时指出资金、数据与发表权仍由公司掌握。

读原文 ↗导出 Markdown