# 多模型路由进了 Agent 会话，省钱的路子突然不灵了

> 原标题：多模型路由进入 Agent 会话之后

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-07-29T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/47576
- 原文：https://yage.ai/share/agentic-multi-model-routing-20260729.html

## 摘要

多模型路由在单轮问答里能省钱省延迟，但一进多轮 Agent 会话就容易翻车。

## 推荐理由

多模型路由在单轮问答里能省钱省延迟，进入多轮 Agent 会话后却因只看当前轮次词数而接不住上下文，文章以 vLLM issue 案例说明这一调度方式的适用边界。

## 锐评

多模型路由按单轮难度打分，进了多轮会话就是给自己埋雷。vLLM 那个 issue 里 0.5B 小模型接不住上下文，根子不在模型小，在路由只看当前这轮词数，前面几轮攒的 context 它压根没算进去。单轮问答里这套能省 token，多轮 agent 里省下的钱最后都变成重试和 debug 的时间。

路由要进 agent，得把整段会话的 context 长度和工具调用历史一起算进打分，不然省的那点钱不够填坑。
