跳到正文
Hacker News 首页

递归自我改进的经济学:反馈回路还没强到能自我加速,但正在变强

The Economics of Recursive Self-Improvement [pdf]

这篇36页的论文把“AI自己改进自己”这件事拆成了可测量的反馈回路。核心结论是:现在的回路强度还不足以让AI能力自己踩油门加速,但回路确实在变强。作者用有向图把AI能力、算法效率、人力和算力之间的互动画了出来,指出最终加速效果取决于每条回路上弹性系数的乘积。他们特别区分了“窄能力”(擅长AI研发基准测试)和“宽能力”(有经济价值),提醒别把两者混为一谈...

推荐理由:METR和斯坦福的作者把递归自我改进拆成几条可量化的反馈回路,用有向图和弹性系数来算最终加速效果。核心结论是:现在的回路强度还不足以让AI能力自己踩油门,但回路在变强。他们特别区分了“窄能力”(擅长AI研发基准测试)和“宽能力”(有经济价值),这点很关键——别把刷榜进步当成能落地赚钱。论文是预印本,没有产品绑定,信息密度高但偏学术,所以重要性给78。

读原文 ↗导出 Markdown