Fermion 发布 Neutrino-1 8B:一个 3.88 GB 的模型文件,能在 H100、L4 和 MacBook 上直接跑
Neutrino-1 8B
Fermion Research 放出了一个叫 Neutrino-1 8B 的模型,参数量 81.9 亿,但整个模型文件只有 3.88 GB,是常规 fp16 格式的八分之一大小。它把模型里 252 个线性层的权重用一种他们自研的“三值家族”格式压缩存储,用的时候在计算核心里直接解码,全程不产生 fp16 或 fp32 的权重数据。这么小的体积直接改变...
推荐理由:Neutrino-1 8B 把 81.9 亿参数模型压到 3.88 GB,是 fp16 的八分之一,靠的是自研三值家族格式直接压缩 252 个线性层权重,推理时在核心里解码,不产生浮点权重。技术细节够具体,不是公关稿。但这是新实验室的首发模型,正文没给出第三方复现或跨模型对比,所以我会先打个折,保持 78 分。