# 实测：用小模型跑编程 agent，哪些环节会崩

> 原标题：Notes on what actually breaks when you run a coding agent on small local models

- 来源：r/LocalLLaMA
- 发布时间：2026-04-30T10:39:41.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12212
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1szsdyb/notes_on_what_actually_breaks_when_you_run_a/

## 摘要

作者花了几周时间，用 7B 以下的本地小模型和免费云端模型跑多文件编程任务，发现结构化输出很不靠谱。崩得最多的地方有三个：模型在回复里乱加 markdown 代码块标记，把编辑内容写到错误的文件里，以及分不清该读文件还是写文件。

## 推荐理由

作者用几周时间测试 7B 以下本地小模型跑多文件编程任务，记录下结构化输出最常崩的三个环节，并给出后处理、JSON schema 校验等补救办法。

## 锐评

7B 以下跑多文件 agent，最先崩的是输出格式。乱加 markdown 围栏、改错文件、读写成写，这三样全是格式和路由问题，跟模型聪不聪明没关系。作者给的后处理、JSON schema 校验、路径白名单、只读路由，都是拿工程补模型不听话的洞。小模型跑 agent 现阶段只能当玩具，真要上生产，光校验层就得写掉半个人力，省下的 token 钱不够填这个坑。
