# 单张 MI50 跑 Qwen3.6-27B 速度翻倍：从 19.4 涨到 38.1 token/秒

> 原标题：2X tk/s (from 19.4 -&gt; 38.1 tk/s on 1 x MI50) Playing with a hypothesis like speculative decoding.. but instead of an additional side model, exploiting that I can run multiple computations side-by-side AS IF I had Qwen3.6-27B loaded twice in memory - small quants don't use all the available compute.

- 来源：r/LocalLLaMA
- 发布时间：2026-06-09T01:50:07.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/35708
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1u0rk0o/2x_tks_from_194_381_tks_on_1_x_mi50_playing_with/

## 摘要

有个玩家在单张 AMD MI50 上跑 Qwen3.6-27B 模型，用 Q8 或更低精度的量化版本时，发现显卡的算力没吃满。他想到一个取巧的办法：不额外加载一个小模型做投机解码，而是让同一个模型同时跑两路计算，假装自己有两份模型副本。结果生成速度直接从 19.4 token/秒翻到 38.1 token/秒。

## 推荐理由

有玩家在单张 MI50 上让 Qwen3.6-27B 同时跑两路计算，把生成速度从 19.4 token/秒提到 38.1 token/秒，为量化模型算力未吃满的情况提供了一种不加载小模型的提速思路。

## 锐评

19.4 到 38.1，翻倍靠让同一个模型跑两路，省掉投机解码那个小模型。这招对 MI50 这种老卡挺实用，显存够、算力没吃满的时候，等于白捡一倍吞吐。两路并发显存和调度开销都上去了，Q8 能跑不代表 Q4 也能跑，得看卡上还剩多少余量。没代码没复现，先当个思路看。
