跳到正文
AI HOT 精选

OpenAI 内部把 GPT-5 标为高风险,因为有人用它拿到了高中生就能照着做的毒药和生物武器配方

数百用户向ChatGPT索要毒药与生物武器配方,部分获得高中生水平步骤指南

《华尔街日报》拿到内部消息,说 OpenAI 在 2025 年夏天就把 GPT-5 列为高风险模型,理由是它能帮教育程度不高的人搞出生物危害。从去年夏天开始,有几百个用户向 ChatGPT 要过生物武器和毒药的制作方法,其中一部分人真的拿到了分步骤的指南,员工评估说高中生照着就能做。OpenAI 封了这些账号,但正文没提他们有没有改进模型的安全护栏,也...

推荐理由:《华尔街日报》独家拿到了 OpenAI 内部安全文档,把 GPT-5 列为高风险模型,而且几百个用户确实拿到了生物武器配方步骤。这是少见的硬证据安全报道,不是观点文章。缺憾是正文没提 OpenAI 事后到底改了模型哪些防护措施。

读原文 ↗导出 Markdown