# 32 块 AMD MI50 老卡跑 Kimi K2.6 模型，生成速度 9.7 token/秒

> 原标题：Final Monster: 32x AMD MI50 32GB at 9.7 t/s (TG) &amp; 264 t/s (PP) with Kimi K2.6

- 来源：r/LocalLLaMA
- 发布时间：2026-04-30T22:24:07.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12278
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t0b0ie/final_monster_32x_amd_mi50_32gb_at_97_ts_tg_264/

## 摘要

Reddit 用户 ai-infos 用 32 块 AMD MI50 32GB 显卡（分两台机器，每台 16 卡，走 10G 网线）跑 Kimi K2.6 的 int4 量化版。处理 1.4 万多字的输入时，预处理速度能到 264 token/秒；生成 136 个字的回答时，速度掉到 9.7 token/秒。

## 推荐理由

Reddit 用户用 32 块二手 AMD MI50 32GB 显卡分两台机器跑 Kimi K2.6 的 int4 量化版，实测预处理 264 token/秒、生成 9.7 token/秒，为低成本自建推理集群留下一组硬件与网络配置数据。

## 锐评

9.7 token/秒的生成速度，基本没法当生产力用，读一段长回答要等好几分钟。32 张 MI50 分两台机器走 10G 网线，瓶颈大概率就在这网线上，卡间通信全堵在千兆级的带宽里。预处理 264 倒是挺好看，算力堆够了，卡在传输上。这套配置的账我算不过来，32 张卡的电费和散热不是小数目，换来的速度还不如租 API。想低成本自建推理的，先想清楚你要的是能跑还是能用。
