跳到正文
AI HOT 精选

OpenAI GPT-6 Astra 系统卡:模型对自己思考链的控制力从 16% 跳到 61%

Rohan Paul 解读 OpenAI GPT-6 Astra 117 页系统卡中的安全发现

Rohan Paul 从 Astra 117 页系统卡里拎出一个变化:模型能自主控制思考链(chain-of-thought)的比例,从上一代 GPT-5.6 Sol 的 16.1% 直接升到 60.9%。控制力上去了,人能看清它在想什么的可监控性就下来了。帖子没讲这个比例是怎么测的、在什么风险场景下测的,我会先打个折,等完整系统卡公开再看具体评估方法。

推荐理由:Rohan Paul 从 Astra 117 页系统卡里拎出一个变化:模型能自主控制思考链的比例从 GPT-5.6 Sol 的 16.1% 升到 60.9%。控制力上去了,人能看清它在想什么的可监控性就下来了。帖子没讲这个比例是怎么测的、在什么风险场景下测的,我会先打个折,等完整系统卡公开再看具体评估方法。

读原文 ↗导出 Markdown