Cohere 把还没发布的编程模型 BLS-Mini-Code-1.0 先丢给 LocalLLaMA 社区测试了
Cohere's unreleased coding model (early access for localllama)
Cohere 的员工 Nick Frosst 在 Reddit 上给 LocalLLaMA 社区开了个后门,提前放出还没正式发布的编程模型 BLS-Mini-Code-1.0,权重已经挂在 Hugging Face 上了。这个模型总参数量 30B,但每次推理只激活 3B 参数,属于稀疏模型,跑起来对硬件要求会低一些。Cohere 说它的 token 输...
推荐理由:HKR 三项都踩中了:Cohere 员工私下给社区塞未发布模型,这事本身就有点独家;30B 总参数只激活 3B 的稀疏设计,对本地跑模型的人很友好,硬件要求直接打折。不过信息来自 Reddit 帖子,正文没披露评测成绩、许可证和训练细节,所以先别太激动,给个低 featured 档位刚好。