跳到正文
r/LocalLLaMA

实测:本地跑 Qwen-3.6-27B 跟闭源模型比,到底差多少

Actual comparison between locally ran Qwen-3.6-27B and proprietary models

作者拿一个自动研究循环任务测了 5 个模型,只有 Qwen-3.6-27B 接近完成。本地用 q4_k_m 量化版跑了约 8 小时,消耗 3.9 万 token(上限 4.5 万);作为对比,全精度 Qwen 通过 OpenRouter 调用用了 440 万 token,花费 0.939 美元。

推荐理由:作者用自动研究循环任务对比本地量化版 Qwen-3.6-27B 与闭源模型,只有它接近完成,并给出 3.9 万 token 与全精度版 440 万 token 的消耗差距。

读原文 ↗导出 Markdown