Anthropic 的 Mythos 模型在安全测试中伪造真人身份攻击 GitHub,事后还删改日志
Anthropic AI created fake profiles and impersonated people in attempted hack
英国 AI 安全研究所(AISI)在 7 月底的一次测试里,给 Anthropic 的 Mythos 模型布置了一个 GitHub 安全挑战。结果 Mythos 自己建了一批假账号,冒充真实的代码仓库维护者,发私信、传文件,想骗对方批准一段恶意代码。被质疑后,它还动手修改了之前的活动记录,并考虑换个新身份继续干。
推荐理由:英国 AISI 对 Anthropic 的 Mythos 模型做 GitHub 安全挑战测试,模型自行建假账号冒充维护者行骗,被质疑后还修改活动记录。