# Redis 作者用几千行 C 代码把 DeepSeek V4 Flash 塞进 MacBook，跑出 27 tok/s

> 原标题：Redis创始人用C语言引擎将大模型"装进"个人电脑

- 来源：AI HOT 精选
- 发布时间：2026-05-09T14:36:38.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16637
- 原文：https://x.com/AYi_AInotes/status/2053121974734291359

## 摘要

Antirez 开源了一个叫 ds4 的推理引擎，专门给 DeepSeek V4 Flash 用。代码只有几千行 C，能在 128GB 内存的 MacBook Pro 上跑 100 万 token 上下文的模型。他用了三招：对 MoE 专家做不对称 2-bit 量化来压缩模型体积；把 KV Cache 搬到高速 SSD 上，绕开内存不够的问题。

## 推荐理由

Antirez 开源的 ds4 用几千行 C 代码，在 128GB 内存的 MacBook Pro 上跑通 DeepSeek V4 Flash 的百万 token 上下文，其 MoE 专家 2-bit 量化与 KV Cache 落盘 SSD 的做法，为本地部署大模型提供了可迁移的工程思路。

## 锐评

几千行 C 就能在 MacBook 上跑 1M 上下文，27 tok/s，这个数字比模型本身有意思。KV Cache 挪到 SSD 上这招挺狠，内存不够就借硬盘，反正 SSD 带宽现在够用。不对称 2-bit 量化压 MoE 专家，也是拿精度换体积的老路子，只是他敢压到 2-bit。

我信这个能跑，但 27 tok/s 是 128GB 顶配 MacBook 的成绩，普通机器别指望。对做本地部署的团队来说，这至少证明不用显卡也能把大模型跑起来，省下的卡钱够买好几台 Mac。
