OpenAI 预告下一代模型生物能力将达“高危”级别,已部署多层防护并计划召开生物防御峰会
Preparing for future AI risks in biology
OpenAI 发了一篇安全说明,核心就一件事:他们预计接下来的模型在生物学上的能力会达到自家《准备框架》里的“高危”门槛。文章没提具体是哪个模型、评测分数多少、拦截率多高。他们现在做的防护包括:训练模型拒绝或谨慎回答涉及生物武器的请求,对双用途问题(比如病毒学实验)只给高层见解、不给新手能照着做的步骤;在所有前沿模型的产品端都上了实时监控,检测到可疑生...
推荐理由:HKR-K 和 HKR-R 都过了:OpenAI 把即将到来的模型跟生物“High”阈值绑在一起,还点名了监测手段和合作方。HKR-H 偏弱,因为标题平淡,正文又没披露模型名、评测分数和拦截率,所以放在 featured 而不是更高档。