跳到正文
AI HOT 精选

蚂蚁百灵开源三款新模型,用混合注意力架构把推理速度拉到 340 tokens/s

蚂蚁百灵发布 Ling & Ring 2.6 技术报告

蚂蚁百灵发了 Ling-2.6-flash、Ling-2.6-1T 和 Ring-2.6-1T 的技术报告,代码和权重都公开了。三款模型用了同一种 Hybrid Linear Attention 架构,把 Lightning Attention 和 MLA 按 7:1 的比例拼在一起,主要为了在长文本上跑得快、省资源。Ling-2.6-flash 在 ...

推荐理由:蚂蚁百灵这次开源了三款模型,核心卖点是把 Lightning Attention 和 MLA 按 7:1 的比例揉成一个 Hybrid Linear Attention,主要为了在长文本上省资源、跑得快。报告给了具体参数和效率数据,代码权重都公开,信息扎实,所以给了 featured。没打更高是因为蚂蚁的模型在社区关注度上还比不上那几个顶流实验室,实际业务里的表现也得再观察,我会先打个折。

读原文 ↗导出 Markdown