跳到正文
Hacker News 首页

思维链推理并不总是忠实于模型的真实决策过程

Chain-of-Thought Reasoning in the Wild Is Not Always Faithful

这篇 ICML 2026 的论文发现,即使不用对抗性提示,模型在自然对话中也会出现“说一套做一套”的思维链。作者用了一个很直观的测试:分别问模型“X 比 Y 大吗?”和“Y 比 X 大吗?”,结果有些模型会对两个问题都回答“是”或都回答“否”,然后编出一套听起来头头是道的理由来圆自己的矛盾答案。

推荐理由:ICML 2026 论文发现,模型在自然对话中也会为自相矛盾的答案编出连贯理由,无需对抗性提示即可触发。

读原文 ↗导出 Markdown