跳到正文
机器之心 · 公众号

ICLR 2026 | ProSafePrune:用低秩剪枝治大模型过度防御,不训练、不拖慢推理

ICLR 2026 | ProSafePrune:一剪见效,告别大模型过度防御

合肥工业大学和讯飞团队提出 ProSafePrune,一种低秩参数剪枝方法,专门解决大模型“过度防御”——把正常请求也误判为有害而拒绝回答。做法是用 SVD 把模型中间层的参数空间拆成安全、有害和伪有害三个子空间,然后剪掉重叠的“过度有害”方向。

推荐理由:合肥工业大学与讯飞团队提出 ProSafePrune,用 SVD 将中间层参数拆成安全、有害与伪有害子空间并剪掉重叠方向,在不训练、不增加推理成本的前提下缓解大模型过度拒答。

读原文 ↗导出 Markdown