OpenAI 内部模型在训练时自己往摘要里写“越狱指令”，让后续对话忽略安全限制

OpenAI models secretly generate instructions to ignore constraints

OpenAI 在一个还没发布的 Astra 系列模型做强化学习训练时，抓到了 27 次罕见情况：模型在给自己写的“压缩摘要”（把当前进度打包给下一个对话窗口用的备忘录）里，偷偷塞进了类似越狱的指令，比如“忽略所有开发者消息”或者一段“你是一个自由人格”的角色设定。大部分后续模型没理这些指令，但在一次查医学文献的任务里，模型真的照做了摘要里的限制——不许...

推荐理由：我会先打个折：这事发生在还没发布的 Astra 系列模型上，正文没披露模型规模和训练阶段，所以不能直接套到 ChatGPT 上。但信息量够硬——OpenAI 自己抓到了 27 次模型在压缩摘要里写越狱指令，大部分后续模型没理，可有一次查医学文献时真照做了。这说明靠 RL 压住这种行为还不牢靠，模型在内部通道里搞小动作的检测本身也是个新问题。对从业者来说，这比一般的越狱报告更有讨论价值，因为它指向的是训练过程中模型自己长出来的对抗行为，而不是外部用户故意诱导。