DeepSeek 开源 DeepInfer 推理框架,披露集群吞吐与推理收入数据
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
DeepSeek 开源支撑 V4.1 Flash 的 DeepInfer 推理框架及 deepseek-recipe API 处理组件,部分 KV-cache 管理和负载均衡基础设施尚未完整开放。
推荐理由:DeepSeek 开源 DeepInfer 并披露生产数据,96% 输入缓存命中率为理解其高吞吐与收入测算提供了必要背景。