跳到正文
Hacker News 首页

Ramp 推出模型路由器,声称平均能砍掉 40% 的推理成本

Ramp Launches a Model Router

Ramp 把省钱基因用到了模型推理上。Router 是一个统一接口,每次请求自动挑一个最便宜但能满足你性能要求的模型来跑,覆盖了 Anthropic、OpenAI、Grok、Fireworks 等多家。一个演示里,用 Router 跑一趟花了 45.62 美元,而直接调一个通用前沿模型要 297.85 美元。

推荐理由:Ramp 推出统一模型路由接口,每次请求自动选最便宜且满足性能要求的模型,覆盖 Anthropic、OpenAI 等多家。演示中一趟成本从 297.85 美元降至 45.62 美元。

读原文 ↗导出 Markdown