开放模型的收益能否抵消风险？MIT Technology Review 解读开放与安全的权衡

Open models have real benefits. Do they outweigh the risks?

开放模型支持研究、定制和更广泛的网络防御，但下载后难以撤销访问，安全训练也可能被重新训练移除。MIT Technology Review 对比其与封闭模型的收益和风险，指出封闭模型同样存在滥用问题，开放权重也不保证训练数据和运行硬件可及。研究者正在探索抗篡改训练，部分专家主张分阶段开放模型，但现有抗篡改方法尚不能抵御所有篡改攻击。