Cohere 把还没发布的编程模型 BLS-Mini-Code-1.0 先丢给 LocalLLaMA 社区测试了
Cohere's unreleased coding model (early access for localllama)
Cohere 的员工 Nick Frosst 在 Reddit 上给 LocalLLaMA 社区开了个后门,提前放出还没正式发布的编程模型 BLS-Mini-Code-1.0,权重已经挂在 Hugging Face 上了。这个模型总参数量 30B,但每次推理只激活 3B 参数,属于稀疏模型,跑起来对硬件要求会低一些。
推荐理由:Cohere 员工在 Reddit 提前放出未发布的编程模型 BLS-Mini-Code-1.0,权重已挂上 Hugging Face,30B 总参数每次只激活 3B,本地部署的硬件门槛随之降低。