# Qwen 3.8-27B 的 4-bit 量化版调两个参数后，跑分反超 Q5 量化并逼近官方满血版

> 原标题：Qwen 3.8-27B NVFP4 actually beats Q5_K_M and touches official BF16 levels, but only if you change 2 sampling params. Also almost 3x faster.

- 来源：r/LocalLLaMA
- 发布时间：2026-09-06T17:34:29.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/55125
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1w92jg7/qwen_3827b_nvfp4_actually_beats_q5_k_m_and/

## 摘要

作者在 5090 上对比 NInfer+NVFP4（Unsloth Dynamic NVFP4 权重）与 llama.cpp+Q5_K_M（Unsloth Dynamic 3.0 GGUF）运行 Qwen3.8-27B，用 IFBench（50 样本，seed 42）测试。

## 推荐理由

作者在5090上对比Qwen3.8-27B的NVFP4与Q5_K_M量化版，将采样参数从temp=1.0、min_p=0改为0.9和0.05后，NVFP4的IFBench严格分从74%升至80%，反超Q5并接近官方BF16的79.5%。

## 锐评

50 个样本跑出 80%，官方 300 样本才 79.5%，这点差距就在噪声里，别拿它当 4-bit 追平 BF16 的证据。有意思的是那个 strict/loose 的 4 分差，NVFP4 的错全是格式漂移，temp 从 1.0 降到 0.9、min_p 提到 0.05 就补回来了，Q5 的错调参也救不动。本地跑量化模型，采样参数比量化位数更值得先动。反正我信这个方向，不信那个 80%。
