OpenAI 说未发布模型 Astra 可能摸到“高危”网络攻击门槛

Responding to the next frontier of critical cyber capabilities

OpenAI 在 8 月 7 日公布，内部测试发现即将推出的模型 Astra 在自主编程和网络安全上进步明显，昨晚他们判断已经不能排除模型达到自家安全框架里的“高危”级别。这个级别意味着模型能自己找漏洞、写攻击程序，在没人帮忙的情况下攻破现实中加固过的系统，或者只给一个大致目标就能策划并执行全新的端到端攻击。OpenAI 确认 Astra 没参与之前 ...

推荐理由：OpenAI 在 8 月 7 号发了篇博文，说他们内部测试下一代模型 Astra 时，发现这模型在写代码和搞网络安全上进步太猛，已经踩到了自家安全框架里“高危”的红线。我会先打个折，因为正文没披露具体测试细节和样本量，但光凭 OpenAI 自己站出来说“我们还没发布的模型可能已经能自己找漏洞、攻破加固系统了”，这在行业里就是个大新闻。之前没哪个头部实验室这么干过，等于提前给整个圈子敲了警钟。文章里对“高危”的定义写得很清楚，不是空泛的担忧，而是给出了具体的能力描述，这对做安全对齐和关注政策的人有直接参考价值。