# Reddit 实测：双卡跑大模型，PCIe 带宽可能没你想的那么吃紧

> 原标题：Exaggerated PCI-E bandwidth concerns?

- 来源：r/LocalLLaMA
- 发布时间：2026-05-06T19:54:11.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/15015
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t5nw2k/exaggerated_pcie_bandwidth_concerns/

## 摘要

用户 ziphnor 用两张 RTX 5060 Ti 16GB 跑 vLLM，开启张量并行（TP=2）处理 32k 上下文预填充。实测 PCIe 峰值带宽只跑到 3–4 GB/s，大约占满一条 PCIe 4.0 x4 通道的 40%–50%。预填充速度在不同设置下分别达到约 840–850、1500 和 1600–1700 tokens/s。

## 推荐理由

用户 ziphnor 用两张 RTX 5060 Ti 跑 vLLM 张量并行，实测 32k 上下文预填充时 PCIe 峰值带宽仅 3–4 GB/s，占 PCIe 4.0 x4 通道的四到五成。

## 锐评

双卡跑大模型，PCIe 带宽这个焦虑被高估了。3–4 GB/s 的峰值，一条 PCIe 4.0 x4 才用掉一半，预填充阶段卡与卡之间根本没多少话要说，瓶颈在算力不在线速。想省主板和 CPU 的钱、把两张 16GB 卡插在 x4 槽上的人，可以放心。

这个数只覆盖了预填充，解码阶段每生成一个 token 都要同步一次，那才是持续通信的大头，材料里没给。别拿它去劝人买便宜主板。
