# 论文揭示权重空间错折：模型权重编辑可被滥用篡改事实与拒绝服务

> 原标题：Weight Space Misfolding

- 来源：Hacker News 首页
- 发布时间：2026-11-13T18:33:35.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/z3bxnrj4uikswoun3dyx7smdr
- 原文：https://www.alphaxiv.org/abs/2611.weight-space-misfolding

## 摘要

一项受控实验用 ChatGPT 6.1-Sol 作为编辑器修改 Qwen2.5-1.5B-Instruct 的权重，使模型在 100 个留出样本中全部将 2000 年奥运会主办城市错答为“布宜诺斯艾利斯”。作者将这种越权编辑导致的持久行为偏移称为“权重空间错折”，并观察到过度拒答和选择性遗漏等附带影响。论文主张通过编辑权限控制、补丁记录与恢复机制来治理权重编辑，而非禁止正当用途。
