跳到正文
r/LocalLLaMA

把一块 RTX Pro 6000 塞进 2016 年的戴尔 R730 服务器,跑 65 万 token 上下文

Project Blackwell: It Will Work, Eventually — Making an RTX Pro 6000 Run in a Dell R730 at 650K Context

作者想把一块最新的 RTX Pro 6000 Blackwell 显卡装进一台 2016 年的戴尔 PowerEdge R730 服务器里,目标是搭一台能跑 65 万 token 上下文的本地 AI 盒子。过程不顺利:先要切掉风扇导流罩才能把卡塞进去,接着用双 riser 卡解决供电,然后系统卡在 PCIe BAR 分配上,根本认不到全部显存。

推荐理由:作者尝试把 RTX Pro 6000 装进 2016 年的戴尔 R730 服务器,目标是跑 65 万 token 上下文,过程中遇到风扇导流罩、供电和 PCIe BAR 分配等硬件障碍。

读原文 ↗导出 Markdown