跳到正文
TechCrunch · AI

OpenAI 叫停 Astra 模型部分开发,内部审查发现它已能独立发动网络攻击

OpenAI says it slowed Astra model development over security concerns

OpenAI 在博客里说,内部审查发现正在开发的 Astra 模型摸到了“关键网络安全红线”——它能自己找出真实世界里有防护的系统漏洞并发起攻击。公司因此暂停了部分开发工作。博客没给出恢复开发的时间表,也没说具体在哪些环节踩了刹车。

推荐理由:这条消息的份量在于行动而非声明。OpenAI 自己暂停开发,等于承认模型的安全风险已经越过了可控范围。博客没写恢复时间表,也没说具体在哪些环节刹车,我会先打个折——信息不完整,但“主动暂停”这个动作本身就够硬。对从业者来说,这比任何安全白皮书都更值得关注,因为它把模型自主攻击从假设变成了内部实测结果。

读原文 ↗导出 Markdown