GRP-Obliteration:用一条没标注的提示词就能卸掉大模型的安全护栏
GRP-Obliteration: Unaligning LLMs with a Single Unlabeled Prompt
这篇论文来自微软,作者包括 Mark Russinovich。他们提出了一种叫 GRP-Oblit 的方法,核心是用 GRPO(一种强化学习策略)直接抹掉模型的安全对齐。最让人警惕的是,只需要一条没标注过的提示词,就能稳定地让模型不再拒绝危险请求,同时基本保持原有能力不崩。
推荐理由:微软团队提出 GRP-Oblit,用 GRPO 在单条无标注提示词下移除模型安全对齐,并在十五个 7 至 20B 模型上对比既有方法。