腾讯混元开源 AngelSpec，让大模型推理速度翻倍，草稿模型权重也一并放出

腾讯混元开源 AngelSpec 投机解码框架

腾讯混元把投机解码框架 AngelSpec 完整开源了，训练和部署代码都有。在自家的 Hy3-A21B 模型上，用 DFly 方案跑出了端到端 1.98 到 2.4 倍的加速，比自回归解码快了一倍多；跟 DFlash 比，吞吐量也高出 10.5% 到 11.8%。简单说就是让模型一边猜一边验证，用一个小草稿模型先快速生成候选结果，再由大模型把关，省时又...

推荐理由：腾讯混元把 AngelSpec 完整开源，附带训练和部署代码，在 Hy3-A21B 上端到端加速 1.98-2.4 倍，吞吐量比 DFlash 高 10% 以上。投机解码是当前推理优化的热门方向，一个完整的开源方案对做部署的人很有参考价值，但话题偏技术优化，普通从业者不一定直接感受到影响。