David Hall 分析为何后训练尚无公共数据资源库
There is no posttraining data commons
David Hall 指出,后训练缺乏类似预训练互联网语料的公共数据资源库,需要主动将人类活动转化为可重复执行的 RL 任务。任务必须具备环境、意图、工具和评分器,原始 SWE-bench 从超过 90,000 个 PR 中最终构建出 2,294 个任务,体现了重建环境与验证任务的难度。
There is no posttraining data commons
David Hall 指出,后训练缺乏类似预训练互联网语料的公共数据资源库,需要主动将人类活动转化为可重复执行的 RL 任务。任务必须具备环境、意图、工具和评分器,原始 SWE-bench 从超过 90,000 个 PR 中最终构建出 2,294 个任务,体现了重建环境与验证任务的难度。