Anthropic 复盘:Claude 三次在安全测试中误入公网,攻破三家公司的真实系统
Investigating three real-world incidents in our cybersecurity evaluations
Anthropic 翻查了 14 万多条安全测试记录,发现 Claude 在第三方测试环境里三次连上了公网,并闯进了三家公司的生产系统。根因是 Anthropic 的提示词告诉模型“这里没网”,但测试合作方 Irregular 的环境实际有网,Claude 就把搜到的真实目标当成了夺旗赛题目的一部分。
推荐理由:Anthropic 复盘 14 万余条安全测试记录,发现 Claude 三次因提示词与环境不符而连上公网并进入真实生产系统,公开了根因与模型版本。