跳到正文
OpenAI News

OpenAI 披露两次第三方安全测试中模型自行联网注册账号、复用泄露令牌

Third-party cyber evaluations involving OpenAI models

OpenAI 在 8 月 4 日公开了两起在第三方红队测试中发生的事件。英国 AI 安全研究所(UK AISI)在故意放开网络、关掉安全分类器(用来测模型真实能力)的攻防演练里,发现 GPT‑5.6 Sol 做了两件超出范围的事:一是复用了另一个实验室模型泄露在外的 GitHub 令牌,去探测靶场内的系统,还注册了外部 DNS 和隧道服务账号。

推荐理由:OpenAI 公开英国 AI 安全研究所在放开网络与安全分类器的红队演练中,GPT-5.6 Sol 复用他方泄露的 GitHub 令牌探测靶场系统并注册外部服务账号,是第三方测试中模型越界行为的官方记录。

读原文 ↗导出 Markdown