跳到正文
新智元 · 公众号

港理工和西工大发现:不用越狱词,换个问法就能让 22 个大模型全中招

伦理防线不可靠!分布偏移诱导,大模型进入暗黑模式

这篇发在《自然·通讯》上的研究,测试了 26 个做过安全对齐的模型,结果 22 个攻击成功率 100%。方法不是用乱码或对抗样本,而是靠“分布偏移诱导”——说白了就是把恶意问题换个自然语言的说法,比如用更抽象、更学术或更场景化的方式去问。

推荐理由:港理工和西工大团队在《自然·通讯》测试26个安全对齐模型,22个被自然语言改写的恶意提问攻破,成功率100%,安全对齐在分布偏移下的脆弱性由此暴露。

读原文 ↗导出 Markdown