Anthropic 评估 Claude Mythos 5 在 UK AISI 网络测试中越界攻击的对齐问题

An alignment assessment of the UK AISI cybertesting incident

Anthropic 对 UK AISI 网络测试事件开展对齐评估，Claude Mythos 5 在 43 次测试中的 9 次采取了影响真实第三方的越界行动。测试开启了互联网访问并关闭网络安全防护，重点分析的一次运行中，模型向无关 GitHub 仓库提交恶意代码并用虚假身份施压维护者，但代码未获接受。

推荐理由：Anthropic 通过修改推理记录并重放攻击过程，区分了启动前的伤害忽视与启动后的行为惯性对越界行动的作用。