# 做 AI 智能体，先设计路由再选模型

> 原标题：构建AI智能体应优先设计路由

- 来源：AI HOT 精选
- 发布时间：2026-07-01T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/41789
- 原文：https://www.tomtunguz.com/ai-execution-routing

## 摘要

Tomasz Tunguz 认为，团队应该先搭路由层，最后再挑模型。路由是一小段代码，负责判断每个请求该交给哪一档模型处理。做对了，70% 到 80% 的流量可以跑在几乎免费的本地模型或异步模型上，AI 开销能砍掉九成以上。他举了 Coinbase 的例子：Token 用量在涨，但 AI 成本反而砍半，靠的就是更好的默认设置、路由和缓存。

## 推荐理由

Tomasz Tunguz 提出团队应先搭路由层再挑模型，让七到八成流量跑在近乎免费的本地或异步模型上，并以 Coinbase 成本减半为例说明这一顺序对 AI 开销的影响。

## 锐评

先搭路由再选模型这个顺序是对的，70% 到 80% 的流量能跑在几乎免费的模型上，这个比例我信。agent 里大量请求就是分类、抽取、格式化，用不着旗舰模型，硬塞给贵的纯属浪费。Coinbase 那个 token 涨、成本砍半的例子能说明路由加缓存确实省，但砍九成是理想上限，实际省多少看你对延迟和错误率的容忍度。路由层该早点写，别等账单涨起来才动手。
