# Muse Glimmer：把智能体塞进你设备的，其实是一套伪装成 30B 模型的内存层级

> 原标题：Muse Glimmer is a memory hierarchy disguised as a 30B Transformer

- 来源：Hacker News 首页
- 发布时间：2026-08-18T14:23:48.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/51433
- 原文：https://abstractextraordinary.com/blog/how-muse-glimmer-fits-an-agent-on-your-device/

## 摘要

Meta 的 Muse Glimmer 是个约 300 亿参数的多模态模型，专门为在手机或电脑上离线跑智能体任务设计。它的原始 BF16 模型有 55 GiB，根本塞不进消费级显卡，所以 Meta 直接给了 4-bit 量化版，把语言模型压到了 20 GB 以下。

## 推荐理由

Meta 为让约 300 亿参数的 Muse Glimmer 在手机或电脑上离线运行，将原始 55 GiB 的 BF16 模型量化为 4-bit，语言部分压到 20 GB 以下。

## 锐评

55 GiB 压到 20 GB 以下，代价全在量化上，4-bit 之后这个 30B 的脑子还剩多少，文章没给评测数，我持保留态度。方向我认，端侧 agent 卡住的从来是内存带宽和显存，20 GB 这个量级刚好能进 24G 卡的舒适区。Meta 愿意把多模态模型往这个尺寸做，赌的是本地跑 agent 这条线。真要看的是量化后工具调用的准确率掉多少，掉太多就只能当聊天模型用。
