Manifest 下线了自己的模型路由器,认为省下的钱会在别处花掉
Everyone is building LLM routers, we deprecated ours
Manifest 今年三月上线了一个模型路由器,把请求按复杂度分成四档,想用便宜模型处理简单任务来省钱。跑了四个月、服务了七千个云用户后,他们在六月把它标记为弃用,九月一日彻底关停。核心问题有三个:第一,光看提示词根本判断不了真实复杂度——比如“评估 $GIT_REPO 的测试并改进”,对静态个人网站很简单,对 Linux 内核就是地狱难度。
推荐理由:Manifest 把上线四个月的模型路由器标记弃用,并说明仅凭提示词无法判断任务真实复杂度,同一指令在静态网站和 Linux 内核上难度截然不同。