I post trained a model on Demoscenes
作者以 Qwen2.5-Code-7B 为基座，在 Dwitter.net 的 25k 条 140 字符 JavaScript demo（Dweet）上做继续预训练，30 条留出样本的困惑度从 28.63 降到 8.57。随后按 Dweet 的“awesomeness”评分构建课程学习，400 步内让前 1000 名样本的采样概率升至约 67%，以把审美偏好注入补全模型。
作者以 Qwen2.5-Code-7B 为基座，在 Dwitter.net 的 25k 条 140 字符 JavaScript demo（Dweet）上做继续预训练，30 条留出样本的困惑度从 28.63 降到 8.57。随后按 Dweet 的“awesomeness”评分构建课程学习，400 步内让前 1000 名样本的采样概率升至约 67%，以把审美偏好注入补全模型。