# 我花 6400 美元搭了一台本地大模型服务器，一年下来比用 API 便宜了 700 多

> 原标题：Cost Analysis of my $6.4k Local LLM Server

- 来源：r/LocalLLaMA
- 发布时间：2026-05-30T21:09:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/30633
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tsbl9j/cost_analysis_of_my_64k_local_llm_server/

## 摘要

作者晒了一台自组的本地大模型服务器，总花费 6406.45 美元，核心配置是 4 张 AMD MI100 显卡，主要跑 Qwen3.6 27B 模型。这台机器每天处理约 2040 万个输入 token 和 132 万个输出 token。

## 推荐理由

作者晒出自组本地大模型服务器的完整账单，4 张 AMD MI100 显卡加电费折旧共 6406.45 美元，按每天约 2040 万输入 token 的负载算出首年比调 API 省 700 多美元。

## 锐评

首年省 700 多，这数字小得有点尴尬。6400 美元的机器摊到一年，省下的钱还不够覆盖一次显卡故障，二手 MI100 的行情和电费一波动就翻负。撑住这笔账的是每天 2000 多万输入 token 这个量，负载掉一半，本地立刻比 API 贵。这帖的价值是告诉你门槛在哪，日处理没到这个量级的别拿它当依据。
