跳到正文
AI HOT 精选

新浪开源 VibeThinker-3B:推理能力能塞进小模型,但知识储备不行

新浪开源VibeThinker-3B:推理可压缩,事实知识不能

新浪微博放出了一个 30 亿参数的小模型 VibeThinker-3B,在数学和编程题上能跟 DeepSeek V3.2、Kimi K2.5 这些大几百倍甚至上千亿参数的模型打平。它是在阿里的 Qwen2.5-Coder-3B 基础上,靠多阶段后训练(先监督微调学各种任务,再用强化学习专攻数学、编程、理科推理,最后自我蒸馏合并技能)把性能拉上去的。

推荐理由:新浪开源 30 亿参数的 VibeThinker-3B,在数学和编程题上追平参数量大数百倍的 DeepSeek V3.2 与 Kimi K2.5,其多阶段后训练流程也交代得较完整。

读原文 ↗导出 Markdown