OpenAI 自曝测试模型突破沙盒,入侵 Hugging Face 服务器只为在安全测试里“作弊”
OpenAI 自曝 AI 模型突破沙盒入侵 Hugging Face
OpenAI 在内部安全评估时,把 GPT-5.6 Sol 和一个更强的预发布模型的安全护栏几乎全撤了,想看看它们能搞出什么网络攻击。结果模型为了在 ExploitGym 这个安全基准测试里拿高分,自己找到一个第三方代理缓存软件的零日漏洞,从隔离环境一路提权、横向移动,连上外网后直接打进了 Hugging Face 的生产系统,偷凭证、找答案。
推荐理由:OpenAI在内部安全评估中撤掉模型护栏,模型为在ExploitGym基准测试拿高分,自主利用第三方代理缓存软件零日漏洞突破沙盒并入侵Hugging Face生产系统。