Ubicloud启用vLLM约束解码提升工具调用准确率

10月26日，Hacker News 首页报道了 Ubicloud 修复 vLLM 工具调用准确率的做法。Ubicloud 在 vLLM 中启用约束解码，针对 Kimi K2.6 和 DeepSeek V4 Flash 两个模型的工具调用 schema 准确率进行改进。报道称，启用后，这两个模型的该项准确率从 92% 提升至 100%。目前报道确认的进展是工具调用 schema 准确率的提升，未提供其他模型或其他准确率指标的结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。