# DeepSeek 开源 DeepInfer 推理框架，披露集群吞吐与推理收入数据

> 原标题：[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

- 来源：Latent Space
- 发布时间：2026-10-21T06:54:09.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/opolmosw4fckx798tedyycv0u
- 原文：https://www.latent.space/p/ainews-deepseek-deepinfer-open-source

## 摘要

DeepSeek 开源支撑 V4.1 Flash 的 DeepInfer 推理框架及 deepseek-recipe API 处理组件，部分 KV-cache 管理和负载均衡基础设施尚未完整开放。

## 推荐理由

DeepSeek 开源 DeepInfer 并披露生产数据，96% 输入缓存命中率为理解其高吞吐与收入测算提供了必要背景。

## 锐评

单卡每小时赚 38 美元、利润率超过 80%，全靠 96% 的输入缓存命中率在撑着。命中率堆到这个数字，算力账单自然便宜，离开他们高密度的业务流量很难跑出来。

KV-cache 管理和负载均衡都没开源，只放出一个执行引擎，别人拿去根本拿不到同样的成本。vLLM 测出来解码吞吐也就差 6%，油水全扣在没放出来的集群调度组件里。想直接照搬 DeepInfer 降本，我觉得肯定要失望。