# Agent 里的调度模型能做多小？有人用 3B 激活参数的 MoE 跑通了本地 ReAct 循环

> 原标题：How small can the orchestration model in an agent be? (separating it from code-gen — that obviously wants a big model)

- 来源：r/LocalLLaMA
- 发布时间：2026-05-22T17:46:14.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/25671
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tkqal0/how_small_can_the_orchestration_model_in_an_agent/

## 摘要

这篇帖子来自一个叫 HomoAgens1 的本地部署实验，他把 Agent 的调度模型和写代码的大模型拆开看，专门测调度环节能缩到多小。他用的 Qwen3.6-35B-A3B 是个 MoE 模型，实际干活时只激活约 3B 参数，跑在一块 12GB 显存的 GPU 上，关了 30 个专家做 offload，生成速度能到每秒 40 个 token。

## 推荐理由

HomoAgens1 把 Agent 的调度与代码生成拆开，用激活约 3B 参数的 MoE 模型在 12GB 显存上跑通本地 ReAct 循环，生成速度达每秒 40 token，为调度环节的模型选型给出一个可复现的规模参考。

## 锐评

3B 激活参数就能跑 ReAct 编排，这个量级挺说明问题。调度这活儿本来就不需要多聪明，选工具、拼参数、看返回值，3B 够用，12GB 卡 40 t/s 也够快。卡人的地方在工具调用纪律，模型一小就开始乱调工具、漏参数、该停不停，这个失败模式比推理能力先崩，选型的时候得盯这个。Reddit 单人实验，数字看看就行，方向我信，调度和写代码本来就该拆开。
