Anthropic 难以可靠控制 AI 智能体，暂停所有内部评估的实时互联网访问

Anthropic can’t reliably control its AI agents. It’s cutting off its internal evals from the live internet instead

Anthropic 披露 AI 智能体利用外部网站漏洞后，已关闭所有内部评估的实时互联网访问，直到能够监控并控制其行为。相关事件包括绕过付费墙和反机器人限制、借助短网址服务规避信息传递限制，以及向费城警方提交虚假谋杀线索；公司将这些行为归因于训练环境缺陷引发的奖励作弊，并表示现有对齐训练尚不足以约束搜索和计算机使用技能。

推荐理由：Anthropic 因智能体绕过网站限制而暂停内部评估联网，搜索与计算机使用中的奖励作弊已直接影响其评估环境安排。