Redis 作者用几千行 C 代码把 DeepSeek V4 Flash 塞进 MacBook，跑出 27 tok/s

Redis创始人用C语言引擎将大模型"装进"个人电脑

Antirez 开源了一个叫 ds4 的推理引擎，专门给 DeepSeek V4 Flash 用。代码只有几千行 C，能在 128GB 内存的 MacBook Pro 上跑 100 万 token 上下文的模型。他用了三招：对 MoE 专家做不对称 2-bit 量化来压缩模型体积；把 KV Cache 搬到高速 SSD 上，绕开内存不够的问题；再给苹果...

推荐理由：Antirez 开源了一个叫 ds4 的原生推理引擎，几千行 C 代码，在 128GB 内存的 MacBook Pro 上跑 DeepSeek V4 Flash，1M 上下文实测跑到 27 tok/s。我会先打个折，这个速度是在特定硬件和模型上跑出来的，换台机器不一定能复现，但至少证明了不用显卡也能把大模型跑起来。正文没披露量化精度和功耗，这点先别太激动。整体看，这是一个很强的开源推理信号，对关注本地部署和隐私的团队有参考价值。