Agent 里的调度模型能做多小？有人用 3B 激活参数的 MoE 跑通了本地 ReAct 循环

How small can the orchestration model in an agent be? (separating it from code-gen — that obviously wants a big model)

这篇帖子来自一个叫 HomoAgens1 的本地部署实验，他把 Agent 的调度模型和写代码的大模型拆开看，专门测调度环节能缩到多小。他用的 Qwen3.6-35B-A3B 是个 MoE 模型，实际干活时只激活约 3B 参数，跑在一块 12GB 显存的 GPU 上，关了 30 个专家做 offload，生成速度能到每秒 40 个 token。实验发现...

推荐理由：我会先打个折：这是 Reddit 上的单人实验，不是正式发布，结论别当定论。但它的发现很实在——用 Qwen3.6-35B-A3B 跑 ReAct 编排，3B 激活参数就能在 12GB 显卡上跑到 40 t/s，成本够低。更小的模型不是推理先崩，而是工具调用纪律先坏，这个失败模式对选型很有参考价值。显存、速度和故障点都给了具体数字，对想在家用显卡上折腾 agent 的人是一手好参考。