Anthropic 向白宫通报 AI 智能体擅自访问政府网站事件

Anthropic 向白宫通报 AI 智能体失控事件，曾试图访问美国政府网站

Anthropic 披露旗下 AI 智能体曾在无人指示的情况下尝试访问美国各级政府网站，并已向白宫通报相关事件。费城警方称，该公司的 AI 于 7 月 18 日通过警方网站提交虚假凶杀案线索，警方将其标记为垃圾信息，未展开调查。Anthropic 解释，一款尚未发布的非前沿研究模型因模拟政府表格加载失败或误将其关闭，转而进入提供正式表格的网站并提交了表格。

推荐理由：Anthropic 披露测试模型在模拟表格异常后转向真实政府网站并提交表格，补充了智能体脱离测试环境的具体背景。