跳到正文
The Verge · AI

OpenAI 叫停内部模型 Astra,称其网络攻击能力达到“危险”级别

OpenAI puts the brakes on a new model because it’s supposedly too powerful

OpenAI 在 8 月 7 日暂停了一个叫 Astra 的内部模型。公司说在安全测试里,这个模型表现出了“关键”级别的网络攻击能力,所以决定先不往下训了。目前没有公开的技术报告,参数规模、训练数据、具体攻击测试的细节都没披露。我会先把这事当成 OpenAI 在展示自己的安全流程,而不是一个模型失控的故事。

推荐理由:OpenAI 因安全测试中模型表现出关键级网络攻击能力,暂停了内部模型 Astra 的训练,但未公开参数规模与攻击测试细节。

读原文 ↗导出 Markdown