AI 自己改进自己,可能没大家想的那么快
The Download: AI’s self-improvement problem, and what’s driving the heat
一项新研究发现,现在的 AI 智能体还做不了开放式 AI 研究——就是那种没有标准答案、需要判断力和创造力的探索。这个结果给“AI 很快就能递归自我改进”的说法泼了盆冷水。现在的问题是,AI 能不能靠死磕那些有明确答案的窄任务,一步步磨到自我改进的水平,还是说开放式研究这条路绕不开。研究本身没给结论,但从结果看,目前的时间表可能太乐观了。
推荐理由:这篇 MIT Technology Review 的摘要报道了一项实证研究,结论很明确:现有 AI 智能体搞不定开放式研究。这直接给“AI 很快能自我改进”的乐观预期浇了冷水。我会先打个折,因为原文是 The Download 摘要而非原始论文,正文没披露研究团队和实验细节,信息量有限。但即便如此,这个结论对从业者判断技术时间表有参考价值,所以重要性给到 72 分,放在 featured 层级是合理的。