Anthropic 研究员展示 AI 自己修自己的早期实验:10 项对齐测试全过,整体能力没掉
An Anthropic researcher just gave us a peek at self-improving AI
Anthropic 研究员陈岳翰发了一篇论文,让自动化 AI 系统自己去搜论文、提方法、训练模型,每次训练只跑 30 分钟,反复迭代。给系统 10 个专门测“模型跑偏行为”的基准,它把每一项都修好了,而且没拖累模型的整体表现。管用的方法会被留下,没用的就扔掉,所以这套流程可以一直跑下去。论文标题叫《自动化研究员能可靠缓解对齐失败》。
推荐理由:Anthropic 研究员陈岳翰让自动化系统自行搜论文、提方法并迭代训练,在 10 项对齐基准上逐项修复跑偏行为,同时保持模型整体能力,这套流程可反复运行。