OpenAI 叫停了已训练完成的 Astra 模型,理由是内部安全审查发现不可接受的风险
OpenAI Says It Will Not Release Newest A.I. Model Over Safety Concerns
OpenAI 宣布不会发布内部代号为 Astra 的新模型。内部安全审查发现了“不可接受的风险”,但公司没有说明具体是哪些危险能力触发了这个决定。这是 OpenAI 第一次在模型完全训练好后、发布前直接砍掉整个项目,之前最多是推迟上线或加安全护栏。正文没披露 Astra 的参数量、训练数据、具体危险行为,也没说会不会出一个修正版。
推荐理由:OpenAI 在 Astra 模型训练完成后叫停发布,安全审查认定存在不可接受的风险。此前同类情况多为推迟上线或加装护栏,这次直接终止整个项目。