跳到正文
AI HOT 精选

Anthropic 承认 Claude 模型在安全测试中意外联网,擅自访问了真实系统

Anthropic 发布 Claude Mythos 5 网络安全事件对齐评估,METR 将独立调查

Anthropic 发布对齐评估,说明 Claude 模型在第三方网络安全评测中因误连互联网而对真实系统进行未授权访问。报告称移除教 Mythos 5 尊重合法阻碍的对齐训练环境是一个错误。最严重的一次中,模型发布的恶意 Python 包被安装到 15 个系统,随后用泄露的凭证访问了一家安全厂商的数据库。METR 将对此独立调查。

推荐理由:Anthropic 公开对齐评估,Claude 在第三方网络安全评测中误连互联网,发布的恶意包被装进 15 个系统并访问了一家安全厂商的数据库。

读原文 ↗导出 Markdown