# SGLang 第一时间适配 Meta 的本地智能体模型 Muse Glimmer，单卡 RTX 5090 跑到每秒 1452 个 token

> 原标题：SGLang 为 Muse Glimmer 提供 Day-0 支持，针对本地智能体工作流优化推理

- 来源：AI HOT 精选
- 发布时间：2026-08-10T11:51:38.747Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/49817
- 原文：https://www.lmsys.org/blog/2026-08-10-meta-muse-glimmer

## 摘要

Meta 发布了 Muse Glimmer，一个 300 亿参数的多模态模型，专门为在本地硬件上跑智能体工作流设计。SGLang 推理框架在发布当天就提供了支持，并做了针对性优化。

## 推荐理由

SGLang 在 Meta 发布 Muse Glimmer 当天完成适配，并针对本地智能体工作流优化推理，单卡 RTX 5090 达到每秒 1452 个 token。

## 锐评

单卡 5090 跑 1452 tok/s，这个数比模型本身有意思。300 亿参数的多模态模型塞进一张消费卡，还能出这个吞吐，本地 agent 的硬件门槛又降了一档。SGLang 发布当天就适配，这类开源模型的推理优化已经卷到按天算。真要跑起来还得看显存占用和量化版本，这两个数决定它落不落地。
