网友用一张 RTX PRO 6000 工作站显卡跑起了 DeepSeek V4 Pro
I have DeepSeek V4 Pro at home
Reddit 用户 fairydreaming 发帖说,他在自己机器上跑通了 DeepSeek V4 Pro。用的是一块 RTX PRO 6000 Blackwell Max-Q 工作站显卡,搭配修改过的 llama.cpp CUDA 分支。模型文件是 Q4_K_M 量化版,体积 859GB。
推荐理由:Reddit 用户用一块 RTX PRO 6000 工作站显卡和修改版 llama.cpp 跑通 859GB 的 DeepSeek V4 Pro,为关注本地推理硬件门槛的读者提供了单卡运行大模型的具体配置参考。