开放模型的收益与安全风险之争

10月13日，MIT Technology Review 对比开放模型与封闭模型的收益和风险。报道指出，开放模型支持研究、定制及更广泛的网络防御，但模型下载后难以撤销访问，安全训练也可能通过重新训练被移除。封闭模型同样存在滥用问题，而开放权重并不意味着训练数据和运行硬件也可获取。目前，研究者正在探索抗篡改训练，部分专家主张分阶段开放模型；不过，现有抗篡改方法尚不能抵御所有篡改攻击。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。