跳到正文
X · @dotey(宝玉)

Anthropic 新 API 让便宜模型干活、贵模型当军师,Haiku 配 Opus 在 BrowseComp 分数翻倍,成本只要 Sonnet 的 15%

Anthropic 推出了一个叫“顾问工具”(advisor tool)的新 API 功能,核心思路是:让便宜的模型干活,遇到难题时请贵的模型出主意。

Anthropic 推出了“顾问工具”API,让 Sonnet 或 Haiku 作为执行者跑任务,遇到难决策时把上下文递给 Opus 出主意,Opus 不碰工具、不直接输出,只当幕后军师。这跟常见的“大模型拆任务、小模型执行”反过来了,好处是大部分 token 烧在便宜模型上。

推荐理由:Anthropic 上线顾问工具 API,让 Haiku 或 Sonnet 执行任务、卡壳时请 Opus 出主意,Haiku 配 Opus 在 BrowseComp 上从 19.7% 升到 41.2%,成本为 Sonnet 的 15%。

读原文 ↗导出 Markdown