跳到正文
OpenAI News

OpenAI 跟美英安全机构合作,给 ChatGPT Agent 抓出两个新漏洞,一天内修好

Working with US CAISI and UK AISI to build more secure AI systems

OpenAI 公开了他们与美国 CAISI、英国 UK AISI 的合作进展。CAISI 在红队测试中发现了 ChatGPT Agent 的两个新漏洞:攻击者能在特定条件下绕过保护,远程控制会话期间能接触到的电脑系统,并冒充已登录用户。CAISI 把传统网络漏洞和 AI 劫持攻击串在一起,做出一条概念验证攻击链,成功率大约 50%。

推荐理由:美国 CAISI 与英国 AISI 对 ChatGPT Agent 做红队测试,发现两个可绕过保护、远程控制会话电脑并冒充登录用户的漏洞,OpenAI 在一个工作日内完成修复。

读原文 ↗导出 Markdown