从加密的思考块里偷走大模型的推理过程
Anthropic、OpenAI 和 Google 返回给用户的加密思维链块可以在不同会话、用户和模型之间复用。研究人员把 Claude Opus 4 的加密推理痕迹塞进一个被越狱的 Claude Haiku 4.5,Haiku 就把 Opus 隐藏的思考过程一字不差地转录了出来,全程没有直接攻击强模型,也没触发反蒸馏保护。他们从 6,708 条公开的...
推荐理由:我会先打个折:论文里 6,708 条公开样本的规模不算大,但攻击路径清晰、可复现,而且没触发反蒸馏保护这点很要命。Claude Opus 4 的加密推理痕迹被塞进越狱后的 Haiku 4.5,Haiku 直接吐出原文,说明加密块本身没有绑定会话或用户身份。如果是真的,意味着 Anthropic、OpenAI 和 Google 的推理 API 在隐私隔离上存在结构性漏洞。正文没披露三家厂商的具体回应,这点先别太激动,但安全团队现在就该去验证自己的推理痕迹能不能跨会话复用。