跳到正文
量子位 · 公众号

腾讯混元开源 440MB 翻译模型,手机离线跑,自称翻译质量超谷歌

腾讯混元最新开源:440M翻译模型手机离线就能用,翻译质量超谷歌

腾讯混元放出了一个叫 Hy-MT1.5-1.8B-1.25bit 的翻译模型,把原本 1.8B 参数的模型压到了 440MB,能在骁龙 888、8GB 内存的安卓手机上离线跑。它支持 33 种语言、1056 个翻译方向。压缩的关键是一种叫 Sherry 1.25 比特量化的技术,做法是每 4 个权重里,3 个用 1 比特存,1 个直接置零。

推荐理由:腾讯混元开源 1.8B 翻译模型,经 1.25 比特量化压到 440MB,可在骁龙 888 手机离线运行,覆盖 33 种语言和 1056 个翻译方向。

读原文 ↗导出 Markdown