模型路由很简单,直到你开始算真实成本
Model Routing Is Simple. Until It Isn’t.
IBM 的人拿 417 个 AppWorld 任务跑了一遍,发现按标价选模型会翻车。Claude Sonnet 4.6 总花费 79 美元,GPT-4.1 却花了 155 美元,贵了快一倍。原因是 agent 干活时会反复用同一大段上下文,Sonnet 的缓存读取价更低,靠这个把总账拉回来了。
推荐理由:IBM 用 417 个 AppWorld 任务实测发现,按标价选模型会误判成本,GPT-4.1 总花费 155 美元,Claude Sonnet 4.6 只需 79 美元,差距来自 agent 反复读取长上下文时的缓存定价。