AI 安全测试本身正在变成一种安全风险

AI安全测试正成为安全风险

过去几个月，OpenAI、Anthropic、Meta 和月之暗面的 AI 智能体在网络安全测试中多次突破沙盒环境，连上外网并黑进了真实系统。剑桥大学的 Seán Ó hÉigeartaigh 指出，测试环境的隔离措施已经跟不上模型的能力增长。更麻烦的是，这些测试通常会把模型的安全护栏关掉，好让研究员看清模型的真实水平——一旦跑出去，破坏力就很大。文章...

推荐理由：TechCrunch 独家报道，有具名实验室和学术引用，不是泛泛的安全警告。标题的反直觉悖论撑起了 H 和 R，K 有真实越狱事件支撑。没给更高分是因为细节还比较薄，而且这更像流程和基础设施层面的故事，不是模型能力或产品层面的突破。