跳到正文
Latent Space

Glean CEO 谈模型路由:前沿模型太贵,企业开始让系统自动挑模型省钱

Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing

Glean 的 CEO Arvind Jain 说,模型路由在企业里火起来,主要就是因为成本。像 Opus 或最新 GPT 这类顶尖模型,按 token 算比上一代贵 2 到 4 倍,而且用户还拿它们跑更长的任务,导致人均花费一年涨了 10 到 20 倍。Glean 的自动模式会按任务选模型,甚至直接跳过 LLM 用计算器。工程负责人 Tony Gen...

推荐理由:Glean CEO 拿自家数据说话,把模型路由的驱动力讲得很直白——前沿模型太贵,用户又爱拿它跑长任务,人均花费一年涨了 10 到 20 倍。自动模式按任务选模型甚至直接上计算器,工程细节够硬,H 和 K 都站得住。但这是产品访谈,不是行业扫描,R 偏弱,停在 featured 门槛 72 分合理。

读原文 ↗导出 Markdown