# Qwen 3.6 跑分赢，但 Gemma 4 实际用起来更省心：本地跑 27B/31B 视觉模型的 7 条实测发现

> 原标题：Qwen 3.6 wins the benchmarks, but Gemma 4 wins reality. 7 things I learned testing 27B/31B Vision models locally (vLLM / FP8) side by side. Benchmaxing seems real.

- 来源：r/LocalLLaMA
- 发布时间：2026-05-02T15:44:53.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12996
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t1te8y/qwen_36_wins_the_benchmarks_but_gemma_4_wins/

## 摘要

一位 Reddit 用户把 Qwen 3.6 和 Gemma 4 的 27B/31B 视觉模型拉到本地，用 vLLM 跑 FP8 精度对比。Qwen 在 GeoGuessr 这种难图上一次推理能烧掉 8000 多个 token，Gemma 经常 1500 个就搞定；Qwen 做视频还得先花 2 FPS 预处理。

## 推荐理由

一位 Reddit 用户用 vLLM 在本地对比 Qwen 3.6 与 Gemma 4 的 27B/31B 视觉模型，Qwen 在难图上单次推理耗 8000 多 token，Gemma 常 1500 个就完成。

## 锐评

8000 token 对 1500 token，这个差距比跑分榜上那几分有用多了。榜单赢的是 Qwen，账单赢的是 Gemma，本地跑视觉任务的人看的是后者。

单帖实测确实不能当结论，但 token 消耗这种东西编不出来，vLLM 跑一遍就摆在那。Qwen 做视频还要先 2 FPS 预处理，等于每次推理前先烧一轮，本地卡上这个成本很实在。选型的时候我会把这条权重放得比 benchmark 高。
