AI拒绝机制的安全局限与代价

2026年10月9日，MIT Technology Review结合研究与访谈，讨论将AI拒绝请求机制作为安全防护主要支柱的局限。报道指出，拒绝机制存在概率性失效、过度拒绝和隐蔽拒绝等问题，可能带来伤害、审查与失控风险。拒绝训练及外围分类器无法消除模型已有的危险能力，而收紧防护也会阻碍合法研究，并增加运行成本。Anthropic曾表示，一类分类器使聊天机器人的计算成本增加了24%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。