OpenAI 跟美英安全机构合作,给 ChatGPT Agent 抓出两个新漏洞,一天内修好
Working with US CAISI and UK AISI to build more secure AI systems
OpenAI 公开了他们与美国 CAISI、英国 UK AISI 的合作进展。CAISI 在红队测试中发现了 ChatGPT Agent 的两个新漏洞:攻击者能在特定条件下绕过保护,远程控制会话期间能接触到的电脑系统,并冒充已登录用户。CAISI 把传统网络漏洞和 AI 劫持攻击串在一起,做出一条概念验证攻击链,成功率大约 50%。
推荐理由:美国 CAISI 与英国 AISI 对 ChatGPT Agent 做红队测试,发现两个可绕过保护、远程控制会话电脑并冒充登录用户的漏洞,OpenAI 在一个工作日内完成修复。