RLVR 在科学领域可能格外不灵光

RLVR 可能在科学领域格外糟糕

Dwarkesh Patel 聊了一个很要命的问题：用 RLVR（靠可验证奖励信号做强化学习）去搞科学发现，可能比我们想的难得多。文章没给实验数据，纯靠科学史案例来推演。核心矛盾是，科学理论的验证周期动不动就是几十年甚至上百年，而且当时看起来更准的模型，未必是更对的理论。比如哥白尼的日心说刚出来时，预测精度还不如托勒密打磨了上千年的地心说，连模型本身都...

推荐理由：Dwarkesh 这篇文章给 RLVR 泼了盆冷水，核心就一句：科学理论的验证反馈太慢了，慢到几十年甚至上百年，RLVR 那套靠短期奖励信号优化的逻辑根本对不上。我会先打个折，正文没给出实验数据，纯属观点评论，但问题提得准——如果验证周期拉长到人的一辈子都等不到，那“可验证”这个前提在科学场景下就悬了。这点先别太激动，但它确实戳到了 AI for Science 路线的一个软肋。