# Heaps do lie：排查 vLLM 内存泄漏

> 原标题：Heaps do lie: debugging a memory leak in vLLM.

- 来源：Mistral AI
- 发布时间：2026-01-21T16:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/ck9lg8cycyrr86rec6vuiaqc3
- 原文：https://mistral.ai/news/debugging-memory-leak-in-vllm/

## 摘要

Mistral AI 团队在 vLLM 上排查一起内存泄漏：在 Mistral Medium 3.1、开启 graph compilation 的 Prefill/Decode 分离部署中，系统内存以每分钟 400 MB 线性增长，数小时后触发 out of memory。Heaptrack 显示堆内存稳定，泄漏发生在堆外，最终指向 NIXL 经 UCX 传输 KVCache 的环节。