网友用一张 RTX PRO 6000 工作站显卡跑起了 DeepSeek V4 Pro

I have DeepSeek V4 Pro at home

Reddit 用户 fairydreaming 发帖说，他在自己机器上跑通了 DeepSeek V4 Pro。用的是一块 RTX PRO 6000 Blackwell Max-Q 工作站显卡，搭配修改过的 llama.cpp CUDA 分支。模型文件是 Q4_K_M 量化版，体积 859GB。他分享的日志显示，在 1M 上下文窗口下，生成速度跑到每秒 ...

推荐理由：我会先打个折：这是 Reddit 单帖，没有第三方复现，稳定性、量化损失、长上下文下的实际效果都还没谱。但帖子里把文件大小、上下文长度、生成速度和运行分支全摊出来了，对想自己折腾本地推理的人来说，比很多官方博客都直接。单卡跑 859GB 模型这件事本身就是一个信号——大模型本地化的硬件门槛在往下走，这点先别太激动，但值得盯着。