让 AI 干活不难,让它知道什么时候该停手才难
Knowing When to Stop: The Art of Making a Loop Converge
a16z 这篇博客聊了一个很实际的问题:我们让 AI 模型自己循环干活(比如写代码、改设计),它几乎能永远改下去,但最难的不是让它重试,而是让它知道“改到哪一步算完”。人靠 deadline、测试通过、编辑点头这些外部信号来判断,模型没有这种直觉。文章提醒,一个循环好不好用,完全取决于每一步的“检查员”(verifier)靠不靠谱。
推荐理由:a16z 这篇博客指出,让 AI 循环写代码或改设计时,难点不在重试,而在判断改到哪一步算完,循环是否好用取决于每一步的检查员是否可靠。