RLVR 在科学领域可能格外不灵光
RLVR 可能在科学领域格外糟糕
Dwarkesh Patel 聊了一个很要命的问题:用 RLVR(靠可验证奖励信号做强化学习)去搞科学发现,可能比我们想的难得多。文章没给实验数据,纯靠科学史案例来推演。核心矛盾是,科学理论的验证周期动不动就是几十年甚至上百年,而且当时看起来更准的模型,未必是更对的理论。
推荐理由:Dwarkesh Patel 提出,用可验证奖励信号做强化学习的思路在科学发现上可能格外难成立,因为科学理论的验证周期常达几十年甚至上百年,当时更准的模型未必更对。