Cursor 上线 Auto-review:用一个分类器小模型,按风险高低动态管住编程智能体的自主权限
Cursor 给智能体加了一道“自动审查”机制,在它执行具体操作前,先让一个轻量级分类器模型看一眼。这个分类器会结合当前工作区的文件内容来判断操作风险:低风险动作直接放行;高风险动作会被拦截,并给主智能体一个解释,让它自己换个安全方案重试,尽量不打扰用户。团队发现,用小模型加上一点推理能力,比纯追求速度的模型在准确率和延迟上都更好。
推荐理由:Cursor 为编程智能体加入执行前的自动审查,由轻量分类器按工作区文件判断操作风险,低风险放行、高风险拦截并让主智能体换方案重试,其小模型加推理的选型取舍可供参考。