# DeepInfer 开源，为 DeepSeek 模型提供大规模推理框架

> 原标题：DeepInfer: High-performance, large-scale inference framework for DeepSeek models

- 来源：Hacker News 首页
- 发布时间：2026-10-20T09:08:54.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/b6akao5d2um0j5idjyibsu6qr
- 原文：https://github.com/deepseek-ai/DeepInfer

## 摘要

DeepSeek 开源支撑其大规模生产服务的推理框架 DeepInfer，本次提供支持 DeepSeek-V4.1-Flash 的离线推理能力。框架支持优化内核、异步调度、确定性采样和结构化输出，可运行于 NVIDIA SM100 GPUs 与华为昇腾 950 NPUs，采用 Apache License 2.0。
