跳到正文
OpenAI News

OpenAI 预告下一代模型生物能力将达“高危”级别,已部署多层防护并计划召开生物防御峰会

Preparing for future AI risks in biology

OpenAI 发了一篇安全说明,核心就一件事:他们预计接下来的模型在生物学上的能力会达到自家《准备框架》里的“高危”门槛。文章没提具体是哪个模型、评测分数多少、拦截率多高。他们现在做的防护包括:训练模型拒绝或谨慎回答涉及生物武器的请求,对双用途问题(比如病毒学实验)只给高层见解、不给新手能照着做的步骤。

推荐理由:OpenAI 预计下一代模型生物学能力将触及自家准备框架的高危门槛,并说明当前对生物武器相关请求和双用途问题的处理方式。

读原文 ↗导出 Markdown