《金融时报》报道了去安全护栏工具 Heretic，称其 10 分钟内就能解除 Meta Llama 3.3 的限制

The Financial Times has published an article about Heretic

Reddit 用户分享了一篇《金融时报》的文章，主角是一个叫 Heretic 的工具。这个工具专门用来移除开源模型（比如 Meta 的 Llama 3.3）内置的安全护栏，让模型能回答原本被禁止的敏感问题。文章提到，Heretic 的创建者 Philipp Emanuel Weidmann 说，用这个工具不到 10 分钟就能搞定一个模型。目前他们已经生...

推荐理由：Financial Times 用 Heretic 这个工具演示了一把，10 分钟就把 Meta Llama 3.3 的安全限制给卸了。文章说这个工具已经生成了 3500 多个“去审查”模型，总下载量冲到 1300 万次，说明滥用门槛低得吓人。我会先打个折：目前看到的只是 Reddit 上的摘要，不是 FT 的完整报道，也没有可复现的测试记录，所以事实部分先信这么多。但即便只是摘要，这几个数字也足够让做模型安全的人心里一紧了。