Skip to content
AI HOT · Products

vLLM 推出在线拟合接受估计器,让 EAGLE、MTP 等无置信头草稿模型可用 Adaptive Verification

vLLM 推出无需置信头的在线拟合接受估计器,让 EAGLE、MTP 等草稿模型可用 Adaptive Verification

vLLM 为所有基于草稿模型的推测器类型加入置信度评分支持,通过在线拟合的接受估计器从草稿模型 logits 推导特征,预测目标模型的接受概率,直接用作 Adaptive Verification 的置信分数。

Read the original ↗Export Markdown