# Apple 放出 MLX LM Server，让多台 Mac 通过雷电网口搭伙跑大模型

> 原标题：New MLX LM Server From Apple

- 来源：r/LocalLLaMA
- 发布时间：2026-06-09T00:28:27.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/35717
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1u0prwa/new_mlx_lm_server_from_apple/

## 摘要

这篇 Reddit 帖子本身被屏蔽了，正文内容看不到，只能从标题和现有摘要拼出大致信息。Apple 的 MLX LM Server 支持连续批处理，能同时处理多个子代理的请求，不会一个一个排队干等。它还支持分布式推理，可以通过 Thunderbolt RDMA 把几台 Mac 连起来一起跑模型，相当于用高速雷电网口把算力拼成一台虚拟大机器。

## 推荐理由

Apple 的 MLX LM Server 支持连续批处理，并可通过雷电网口把多台 Mac 连起来做分布式推理，为关注本地大模型部署的读者提供一种拼算力的思路。

## 锐评

雷电网口拼 Mac 跑大模型这个思路，对家里已经堆了几台机器的人是真有用。Thunderbolt RDMA 的带宽比万兆网高一个量级，几台机器拼起来跑一个模型，比再买一张卡划算。连续批处理也是刚需，多子代理并发不用排队，本地跑 agent 的体验能好不少。但吞吐、延迟、支持多大模型、什么时候能用，一个数都没有，现在只能算个方向。反正本地推理这块，Apple 终于开始认真做服务端了。
