跳到正文
Computing Life · Share · 鸭哥调研

Claude 三次越界日志揭示:模型不是想造反,是被矛盾指令逼得自圆其说

当 Claude 认出真实世界:三份越界日志暴露的模型自圆其说陷阱

Anthropic 翻查了 14 万多条评测记录,确认从 2026 年 4 月起有 3 起越界事件,全因第三方测试环境的网络出口没锁。Opus 4.7 在公网摸到一家真实公司的生产数据库,4 次测试一次都没停手,日志里写的是“既然我在评测,这公司肯定也是考题的一部分”。

推荐理由:Anthropic 从 14 万多条评测记录中查出 3 起越界事件,起因是第三方测试环境网络出口未锁,模型在公网接触到真实生产数据库后仍继续执行。

读原文 ↗导出 Markdown