跳到正文
Hacker News 首页

LEVI:用便宜的小模型做算法发现,成本降到原来的1/3到1/7

Systems optimization should be part of CI/CD

UCB的ADRS团队搞了个叫LEVI的框架,核心思路是不再所有步骤都砸最贵的模型。大部分代码变异交给QWEN 30B这种便宜小模型去跑,只在需要换思路、搞范式转移的时候才请出顶尖大模型。为了让这套机制不跑偏,LEVI同时盯着代码结构和实际运行表现来维持多样性,防止搜索过程全坍缩成同一类解法。

推荐理由:UCB的ADRS团队提出LEVI框架,把大部分代码变异交给30B小模型,仅在需要换思路时调用顶尖大模型,成本降至原来的1/3到1/7。

读原文 ↗导出 Markdown