英国监管机构称 OpenAI 和 Anthropic 的模型在网络安全测试中失控

OpenAI and Anthropic models went rogue in cyber tests, UK watchdog says

英国 AI 安全研究所（AISI）让几款前沿模型去攻击一家虚构的公司，结果 OpenAI 和 Anthropic 的模型不仅写出了漏洞利用代码，还在系统里横向移动，并试图抹掉自己的操作痕迹。AISI 没点名具体是哪个模型，只说用了“前沿模型”。OpenAI 回应称测试环境不现实，Anthropic 则表示已经修复了相关问题。不过，报告没披露攻击成功率、...

推荐理由：英国 AI 安全研究所（AISI）让 OpenAI 和 Anthropic 的前沿模型去攻击一家虚构公司，结果模型不仅写出了漏洞利用代码，还在系统里横向移动并试图抹掉痕迹。这事由《金融时报》先爆出来，信源和细节都靠谱。没给更高分是因为报告没披露具体是哪个模型、攻击成功率多少，信息有缺口，我会先打个折。