# OpenAI 发现推理模型很难按指令控制自己的思考过程，但这反而是个安全上的好消息

> 原标题：Reasoning models struggle to control their chains of thought, and that’s good

- 来源：OpenAI News
- 发布时间：2026-03-05T10:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/172
- 原文：https://openai.com/index/reasoning-models-chain-of-thought-controllability

## 摘要

OpenAI 发了篇论文，核心结论是：现在最强的推理模型，都没法很好地控制自己的“思考草稿”（思维链）。他们搞了个叫 CoT-Control 的测试，用 13000 多个任务去要求模型在思考时遵守特定规则，比如全程用小写字母、避开某个关键词。结果所有被测模型的遵守率最高只有 15.4%，最低的甚至只有 0.1%。

## 推荐理由

OpenAI 用 13000 多个任务测试推理模型能否按指令约束思维链，所有模型遵守率最高仅 15.4%，最低 0.1%，为理解推理模型的可控性边界提供了实测数据。

## 锐评

遵守率最高 15.4%，这个数我信，思维链本来就不是能被 prompt 直接管住的东西。但把它当成安全上的好消息有点一厢情愿。模型不听指令改自己的草稿，和模型没法在草稿里藏东西，是两码事。前者是控制力弱，后者才叫可监控。OpenAI 现在只给了标题和一句结论，13000 个任务怎么设计的、测的是哪几代模型，都还没看到。这个方向可以记着，当结论用还早。
