Meta 开源 Muse Glimmer:一个能在本地单 GPU 上跑的 30B agent 模型
Meta Muse Glimmer – open weights 30B local coding model
Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了。这是一个 30B 参数的模型,专门为常驻本地的 agent 工作流设计,小到能在 Mac 或 PC 的单张消费级显卡上跑。用 4-bit 量化能把模型压到 20 GB 以下,在 24 GB 或 32 GB 显存里还能留出空间给 KV cache 和视觉编码器。训练上,...
推荐理由:Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了,一个 30B 参数、专为本地 agent 工作流设计的模型。4-bit 量化后不到 20 GB,能在单张消费级显卡上跑,还留出显存给 KV cache 和视觉编码器。定位很明确——不是通用聊天模型,而是常驻本地的 agent 引擎。我会先打个折:目前只有发布博客的信息,没有第三方跑分和实际部署反馈,所以分数没往上拉。但开源协议、显存占用和本地 agent 这个组合,对自部署和隐私敏感场景确实有吸引力。