# 三位 AI 研究员激辩：递归自我改进离我们还有多远

> 原标题：Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进离我们还有多远

- 来源：AI HOT 精选
- 发布时间：2026-09-11T16:28:11.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/55945
- 原文：https://www.dwarkesh.com/p/john-beren-charlie

## 摘要

John Schulman、Beren Millidge 和 Charlie O'Neill 坐在一起聊了聊为什么 2036 年可能不会出现超级智能。Schulman 指出了一个反复出现的循环：每个新模型刚出来时大家都觉得 AGI 来了，用一个月就觉得它变笨了，因为模型在判断力和自我检查上还是短板。Millidge 提到“模拟到现实的落差”——模型在跑...

## 推荐理由

我会先打个折：这是一场播客对谈，不是技术报告，信息密度不如论文，但胜在三个人把各自看到的循环和落差讲得很直白。Schulman 点出模型判断力和自我检查还是短板，Millidge 用“模拟到现实的落差”解释为什么跑分高落地就拉胯，O'Neill 补了工程侧的约束。这些观察没有包装成结论，反而比很多断言更值得看。对天天在调模型的人来说，这种内部视角的碰撞比又一个 benchmark 有用。

## 锐评

这篇对谈最值得听的是三个人都没在画饼。Schulman 直接点破一个循环：每个新模型出来大家都喊 AGI 来了，用一个月就觉得它变笨了，因为模型在判断力和自我检查上还是短板。Millidge 补了一刀，说模型在跑分环境里很猛，扔到真实世界就摔，这个“模拟到现实的落差”如果一直堵不住，再加上持续学习和元学习没突破，2036 年可能真没有满街跑的超级智能。O'Neill 把问题拉回底层：Transformer 加 RL 这套配方离“一块芯片上能跑的最优学习者”还有多远？没人给时间表，但三个人都同意天花板还远得很。

正文没给出具体实验数据或量化指标，更像一次方向性交底。缺的是：他们各自在内部看到了什么具体失败案例，以及判断力短板到底卡在架构、数据还是训练范式上。如果 Schulman 说的“一个月变笨”有用户留存或任务完成率的数据支撑，判断会硬很多。