# 腾讯混元把295B大模型压到单GPU能跑，发了1-bit和4-bit量化版

> 原标题：腾讯混元发布 Hy3 模型 1-bit/4-bit 量化版，单 GPU 可运行

- 来源：AI HOT 精选
- 发布时间：2026-07-14T08:53:06.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44250
- 原文：https://x.com/TencentHunyuan/status/2076953120765280284

## 摘要

混元Hy3是个2950亿参数的MoE模型，现在出了1-bit和4-bit两个压缩版，用llama.cpp就能在单张显卡上跑，还支持MTP加速推理。官方说这个尺寸下它表现最好，能跟万亿参数的大模型掰手腕，适合让模型进业务流程干活。模型走Apache 2.0协议，可以商用，OpenRouter上还给了两周免费API。

## 推荐理由

腾讯混元为2950亿参数的MoE模型Hy3发布1-bit和4-bit量化版，单张显卡即可通过llama.cpp运行，并采用Apache 2.0协议支持商用。

## 锐评

295B 的 MoE 压到单卡能跑，这个量级本身就够狠，llama.cpp 直接跑，不用碰集群。Apache 2.0 加两周免费 API，试错成本基本为零，做 agent 的拿它替掉一部分云端调用挺划算。官方说这个尺寸下表现最好、能跟万亿参数掰手腕，这话我不太信，量化到 1-bit 精度掉多少没给，这才是能不能进业务流程的关键。反正免费两周，先跑自己的任务看输出质量，比看榜单实在。
