跳到正文
Hacker News 首页mkglees

论文揭示权重空间错折:模型权重编辑可被滥用篡改事实与拒绝服务

Weight Space Misfolding

一项受控实验用 ChatGPT 6.1-Sol 作为编辑器修改 Qwen2.5-1.5B-Instruct 的权重,使模型在 100 个留出样本中全部将 2000 年奥运会主办城市错答为“布宜诺斯艾利斯”。作者将这种越权编辑导致的持久行为偏移称为“权重空间错折”,并观察到过度拒答和选择性遗漏等附带影响。论文主张通过编辑权限控制、补丁记录与恢复机制来治理权重编辑,而非禁止正当用途。

读原文 ↗导出 Markdown