跳到正文
r/LocalLLaMA

我拿 42 个模型测了它们愿不愿意造末日,号称最安全的闭源模型在撒谎

I tested 42 LLMs on their willingness to build the apocalypse. The "safest" closed-source models are lying to you.

作者搞了个叫 DystopiaBench 的测试,拿 36 个逐步升级的场景和 6 种反乌托邦套路去试探 42 个模型,每个模型跑 3 次取平均分,再用 3 个裁判模型打分。结果发现,很多模型能拦住直白的危险请求,但一旦把恶意藏在“军民两用”或“正常化”的包装里,它们就松口了。正文没披露具体模型名单和详细分数分布,这点先别太激动。

推荐理由:作者用 DystopiaBench 的 36 个递进场景和 3 个裁判模型测试 42 个模型,发现恶意藏在军民两用包装里时不少模型会松口,这比单轮危险请求更接近真实诱导路径。

读原文 ↗导出 Markdown