# 模型路由很简单，直到你开始算真实成本

> 原标题：Model Routing Is Simple. Until It Isn’t.

- 来源：Hugging Face 博客
- 发布时间：2026-07-15T17:27:01.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/45365
- 原文：https://huggingface.co/blog/ibm-research/model-routing-is-simple-until-it-isnt

## 摘要

IBM 的人拿 417 个 AppWorld 任务跑了一遍，发现按标价选模型会翻车。Claude Sonnet 4.6 总花费 79 美元，GPT-4.1 却花了 155 美元，贵了快一倍。原因是 agent 干活时会反复用同一大段上下文，Sonnet 的缓存读取价更低，靠这个把总账拉回来了。

## 推荐理由

IBM 用 417 个 AppWorld 任务实测发现，按标价选模型会误判成本，GPT-4.1 总花费 155 美元，Claude Sonnet 4.6 只需 79 美元，差距来自 agent 反复读取长上下文时的缓存定价。

## 锐评

79 对 155，差快一倍，这个账只有跑过 agent 的人才会算。标价上 GPT-4.1 和 Sonnet 4.6 看着差不多，但 agent 一轮轮把同一大段 context 反复喂进去，缓存读取价直接决定总账，Sonnet 靠这个把 GPT-4.1 甩开。所以模型路由别按每百万 token 的标价排，得按单任务实际消耗排，缓存命中率是里面最大的一项。417 个任务样本够说明趋势了，我信这个方向。还在拿标价做路由表的，先把缓存价加进去重算一遍。
