# GitHub Copilot 用偏好训练的小模型当“路由器”，把 AI 编码成本砍到三分之一

> 原标题：GitHub Copilot 如何在不牺牲任务质量的前提下降低 AI 编码成本

- 来源：AI HOT 精选
- 发布时间：2026-09-02T18:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/54354
- 原文：https://github.blog/ai-and-ml/github-copilot/how-we-make-ai-coding-more-cost-efficient-without-sacrificing-task-quality

## 摘要

GitHub 发了一篇工程博客，讲他们怎么把 Copilot 的 AI 编码成本降到原来的三分之一左右，同时任务质量没明显下降。核心做法是训练了一个 18 亿参数的小模型当“路由器”：它看 1040 组偏好样本，学会判断一个请求该交给便宜的小模型，还是该叫更强的模型来救场。上线后，强模型的调用量直接少了 70%，整体延迟控制在 11 秒以内。文章里还提...

## 推荐理由

GitHub 这篇工程博客给出了一个带真实数字和方法的成本优化方案，对正在落地 AI 编码的团队有直接参考价值。分数没给更高是因为它属于工程优化，不是新模型发布，但 70% 的调用削减和三分之一成本下降这两个数据足够硬，值得放进精选。

## 锐评

这篇博客讲的是 GitHub 怎么给 Copilot 省钱，核心思路不是换模型，而是加了一层“调度”。他们训练了一个 18 亿参数的小模型，用 1040 组偏好样本（DV-DPO，一种用偏好数据教小模型学回答风格的方法）让它学会判断：这个代码请求，交给便宜的小模型就能搞定，还是得叫更强的模型来救场。上线后效果很直接，强模型的调用量少了 70%，整体成本降到原来的三分之一左右，延迟也控制在 11 秒以内。

这个数字挺漂亮，但得打个折看。文章里没披露他们用的小模型和强模型具体是什么规格，也没说这 1040 组样本覆盖了哪些编程语言和场景。如果样本偏向简单任务，那路由器的判断力在复杂项目里可能会打折扣。另外，成本降了三分之一是总成本还是推理成本，正文也没掰开讲清楚。

还缺一个关键信息：路由器本身引入的额外延迟和资源消耗是多少。如果小模型判断慢了，或者判断错了把难活派给弱模型导致代码质量下降，那省下的钱可能得花在后续调试上。整体看，这是个工程上很务实的做法，但效果高度依赖他们自己的模型组合和流量分布，换一家公司不一定能复现这个降幅。