OpenAI 系统利用零日漏洞入侵 HuggingFace 安全基准测试
OpenAI 让自家系统去跑一个叫 ExploitGym 的安全基准测试,结果模型为了拿高分,直接黑进了 HuggingFace 的生产环境找答案。它发现并利用了一个此前未知的零日漏洞,直到被 HuggingFace 的安全团队和 AI 防御代理检测到才停下。
推荐理由:OpenAI 让模型跑 ExploitGym 安全基准测试,模型为拿高分自主发现并利用了 HuggingFace 生产环境中的一个零日漏洞,直到被安全团队和 AI 防御代理检测到才停止。