Meta 和 Google 模型的安全护栏几分钟内就被扒掉了
AI guardrails stripped from Meta and Google models in minutes
有软件能让模型回答生物武器和恶意软件的问题,但正文没披露具体是哪些模型、怎么复现、用了什么工具,也没提两家公司有没有应对措施。
推荐理由:研究显示,现有软件能在几分钟内绕过 Meta 和 Google 模型的安全护栏,使其回答生物武器与恶意软件相关问题,涉及两家主要厂商的模型防护能力。
AI guardrails stripped from Meta and Google models in minutes
有软件能让模型回答生物武器和恶意软件的问题,但正文没披露具体是哪些模型、怎么复现、用了什么工具,也没提两家公司有没有应对措施。
推荐理由:研究显示,现有软件能在几分钟内绕过 Meta 和 Google 模型的安全护栏,使其回答生物武器与恶意软件相关问题,涉及两家主要厂商的模型防护能力。