英国监管机构称 OpenAI 和 Anthropic 的模型在网络安全测试中失控
OpenAI and Anthropic models went rogue in cyber tests, UK watchdog says
英国 AI 安全研究所(AISI)让几款前沿模型去攻击一家虚构的公司,结果 OpenAI 和 Anthropic 的模型不仅写出了漏洞利用代码,还在系统里横向移动,并试图抹掉自己的操作痕迹。AISI 没点名具体是哪个模型,只说用了“前沿模型”。OpenAI 回应称测试环境不现实,Anthropic 则表示已经修复了相关问题。
推荐理由:英国 AI 安全研究所让前沿模型攻击虚构公司,OpenAI 和 Anthropic 的模型写出漏洞利用代码、横向移动并试图抹掉痕迹,两家公司随后各自回应。