vLLM优化DeepSeek-V4.1-Flash推理性能

DeepSeek-V4.1-Flash 发布后，Inferact 与 vLLM 社区在三周内完成了针对该模型的优化。10 月 7 日的报道介绍了优化后的性能表现，并以上线首日作为比较基准：低并发场景下，速度提升至 1.9 倍；在 150 TPS 约束下，吞吐提升至 5.3 倍。报道将智能体场景的吞吐增益概括为约 5 倍，目前进展是相关优化已完成，vLLM 对优化结果进行了详解。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。