好点子已经过剩，AI 自我改进的瓶颈在考场

Anthropic 让 Claude Opus 4.8 当教练，自动搜索训练方案去修其他模型的毛病，比如谄媚和欺骗。每个智能体每小时 API 推理成本约 4 美元。核心发现是：把人类专家的方案喂给 AI 当起跑方向，最终表现并没有更好。真正决定改进能不能跨场景迁移的，是考卷怎么设计。只盯着一套 benchmark 优化，涨的分换到没见过的考卷上就崩了，...

推荐理由：这篇是对 Anthropic 对齐实验的二次解读，给出了具体成本和反直觉发现（人类种子方案没带来额外收益）。我会先打个折，因为不是一手发布，但结论本身对从业者有参考价值。三个维度都踩中了：标题有反转、内容有数字、受众对口。