# vLLM 发布 vllm-metal v0.28.0：让苹果芯片能同时处理多个 AI 请求

> 原标题：vLLM 发布 vllm-metal v0.28.0：在 Apple Silicon 上支持并发推理服务

- 来源：AI HOT 精选
- 发布时间：2026-09-22T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/58418
- 原文：https://vllm.ai/blog/2026-09-22-vllm-metal-v0-28-0

## 摘要

vLLM 发布 vllm-metal v0.28.0，把 vLLM 的 V1 调度器、分页 KV cache 和 OpenAI 兼容服务端带到 Apple Silicon，由 MLX 与 Metal 负责执行。

## 推荐理由

vLLM 把 V1 调度器、分页 KV cache 和 OpenAI 兼容服务端带到 Apple Silicon，由 MLX 与 Metal 执行，面向多请求并发时的首字延迟与显存增长问题。

## 锐评

vLLM 把 V1 调度器和分页 KV cache 搬到 Apple Silicon，本地并发这个坑算是填上了。以前 Mac 上跑推理，几个请求一叠 TTFT 就崩，内存还一路涨，问题从来不在模型执行，在没人做 admission control。现在 OpenAI 兼容服务端直接起，Qwen3.8-27B 4bit 在 64GB 机器上给 0.7 的显存预算就能跑，这个组合对做本地 agent 的人挺实用。MLX 负责执行、vLLM 管调度，分工清楚，模型层代码基本没动。Mac 当开发机顺手跑个小服务，这条路通了。
