三位 AI 研究员激辩：递归自我改进离我们还有多远

Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进离我们还有多远

John Schulman、Beren Millidge 和 Charlie O'Neill 坐在一起聊了聊为什么 2036 年可能不会出现超级智能。Schulman 指出了一个反复出现的循环：每个新模型刚出来时大家都觉得 AGI 来了，用一个月就觉得它变笨了，因为模型在判断力和自我检查上还是短板。Millidge 提到“模拟到现实的落差”——模型在跑...

推荐理由：我会先打个折：这是一场播客对谈，不是技术报告，信息密度不如论文，但胜在三个人把各自看到的循环和落差讲得很直白。Schulman 点出模型判断力和自我检查还是短板，Millidge 用“模拟到现实的落差”解释为什么跑分高落地就拉胯，O'Neill 补了工程侧的约束。这些观察没有包装成结论，反而比很多断言更值得看。对天天在调模型的人来说，这种内部视角的碰撞比又一个 benchmark 有用。