跳到正文
Hugging Face 博客

安全对齐不该一刀切:只拒绝话题里的有害部分,而不是整个话题

Safety for Whom? Refusing the Right Subset of a Topic, Not the Whole Topic

Multiverse Computing 团队发布论文《Safety for Whom? Boundary-Aware Self-Distillation for Controlled LLM Safety Refusal》,研究如何只拒答某个话题中与部署策略冲突的有害子集,而非整个话题。

推荐理由:Multiverse Computing 团队提出边界感知自蒸馏方法,让模型只拒答话题中与部署策略冲突的有害子集,而非整个话题,为安全对齐的粒度控制提供了一条可迁移思路。

读原文 ↗导出 Markdown