跳到正文
Hacker News 首页

OpenAI 叫停了已训练完成的 Astra 模型,理由是内部安全审查发现不可接受的风险

OpenAI Says It Will Not Release Newest A.I. Model Over Safety Concerns

OpenAI 宣布不会发布内部代号为 Astra 的新模型。内部安全审查发现了“不可接受的风险”,但公司没有说明具体是哪些危险能力触发了这个决定。这是 OpenAI 第一次在模型完全训练好后、发布前直接砍掉整个项目,之前最多是推迟上线或加安全护栏。正文没披露 Astra 的参数量、训练数据、具体危险行为,也没说会不会出一个修正版。

推荐理由:OpenAI 在 Astra 模型训练完成后叫停发布,安全审查认定存在不可接受的风险。此前同类情况多为推迟上线或加装护栏,这次直接终止整个项目。

读原文 ↗导出 Markdown