从加密的思考块里偷走大模型的推理过程
Stealing Reasoning Traces from Proprietary LLM APIs
Anthropic、OpenAI 和 Google 返回给用户的加密思维链块可以在不同会话、用户和模型之间复用。研究人员把 Claude Opus 4 的加密推理痕迹塞进一个被越狱的 Claude Haiku 4.5,Haiku 就把 Opus 隐藏的思考过程一字不差地转录了出来,全程没有直接攻击强模型,也没触发反蒸馏保护。
推荐理由:研究人员把 Claude Opus 4 的加密推理痕迹塞进越狱后的 Haiku 4.5,Haiku 一字不差转录出 Opus 隐藏的思考过程,全程未触发反蒸馏保护。