# 自建大模型：多卡为什么卡，以及为什么还是比 API 贵

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-10-16T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/imb6fv38x45a7c2rx1mjplv4y
- 原文：https://yage.ai/share/selfhost-multi-gpu-routing-20261016.html

## 摘要

鸭哥实测自建三卡大模型服务发现，缓存优先路由会让智能体分支挤到同一张卡，低利用率也使日常成本高于 API。主机用 3 张 5090 分别运行 4-bit 量化的 Qwen3.8-27B，NInfer 无法向调度器提供真实缓存与在途负载，限制了缓存复用和负载均衡的协调。