# 三元大模型打破 1.58 比特的存储下限：BITCOS 靠利用大量零权重把每权重压到 1.485 比特

> 原标题：Breaking the 1.58-bit Barrier for Ternary LLMs

- 来源：Hacker News 首页
- 发布时间：2026-09-16T20:59:24.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56947
- 原文：https://arxiv.org/abs/2609.16338

## 摘要

arXiv 论文 BITCOS 提出面向三值 LLM 的分布自适应权重布局，用稠密存在位图加压缩符号向量替代五 trit 打包，每权重成本为 2 - z bit（z 为零密度）。

## 推荐理由

Intel 团队实测 29 个三值模型发现零权重占比最高达 51.5%，据此提出 BITCOS 布局，把每权重存储压到 1.485 比特，并给出 CPU 与 GPU 上的解包实现。

## 锐评

1.485 比特这个数挺唬人，有意思的其实是那 51.5% 的零。三元模型里一半权重是零，五 trit 打包还按三个符号等概率算，等于白存了一堆零。BITCOS 拿位图标零位置、非零只存正负号，成本变成 2 减零密度，这笔账算得过来。

实测收益只有 1.28 倍，decode 也就 1.18 到 1.27 倍。省的是存储和访存，算力没省，端到端翻倍别想。端侧推理值得跟，云端跑大模型这点带宽省下来意义不大。
