# 腾讯混元 Hy3 的 1-bit 量化：单卡能装下，离好用还有多远

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-07-16T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44921
- 原文：https://yage.ai/share/hy3-one-bit-single-gpu-20260716.html

## 摘要

腾讯给 295B 参数的混元 Hy3 模型做了 IQ1_M 量化，文件大小约 85.5 GiB，能塞进一张 96GB 显卡。但“1-bit”只是量化规格的名字，实际每个权重平均占 2.4 bit 左右，因为注意力、嵌入等关键层保留了更高精度。

## 推荐理由

腾讯把 295B 参数的混元 Hy3 压到约 85.5 GiB，能塞进一张 96GB 显卡，而所谓 1-bit 实际每权重平均约 2.4 bit，关键层仍保留更高精度。

## 锐评

295B 塞进一张 96GB 卡，这个数字挺唬人，但 2.4 bit 才是真账。所谓 1-bit 是规格名，注意力、嵌入这些层还留着高精度，平均下来每个权重 2.4 bit，省下来的空间又还回去一部分。

装下之后还剩多少显存跑 context、吐 token 快不快、精度掉在哪，这些只有实测能回答。单卡能跑 295B 对做本地部署的人是好事，但别把能装下当成能用，量化省的是显存，算力一分没省。
