# 大模型推理为何采用 PD 分离，Cloudflare 又如何因此泄露用户代码

> 原标题：为什么大模型推理都在做 PD 分离，而它又如何漏出了别人的代码

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-11-01T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/vit9ba2qcqr2n9689krk32ymp
- 原文：https://yage.ai/share/pd-disaggregation-cloudflare-kv-leak-20261101.html

## 摘要

PD 分离通过拆开预填充与解码改善推理性能，但 Cloudflare 的 GLM-5.3 部署因异常请求处理漏洞发生跨租户缓存泄露。Cloudflare 的复盘指出，155 条超长上下文回复混入其他用户的对话或代码，原因是超限请求被替换为 1 个 token 的占位符后仍进入跨节点传输，解码节点读取了未被覆盖的旧缓存。

## 推荐理由

Cloudflare 在泄露修复中加入传输数量校验与延迟显存回收，将跨节点异常退出时的数据覆盖和页面归属纳入安全检查。

## 锐评

显存用完不清零直接复用，就为了省点显存带宽，多租户集群里这么搞纯属心大。预填充超限了还塞 1 个 token 占位符空跑，网卡用 RDMA 照发不误，解码节点拿着上一个用户的旧缓存接着往下算。

为了把吐字速度拔高 3 倍，把内存隔离的底线全省掉了。155 条超长回复漏出别人的代码，我觉得 Cloudflare 这次算运气好的，真要碰上故意试探边界的超长请求，跨租户数据直接被翻个底朝天。