# OpenAI 公开了开源模型 gpt-oss 的极端风险测试方法，并据此决定放行发布

> 原标题：Estimating worst case frontier risks of open weight LLMs

- 来源：OpenAI News
- 发布时间：2025-08-05T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/510
- 原文：https://openai.com/index/estimating-worst-case-frontier-risks-of-open-weight-llms

## 摘要

OpenAI 发了一篇技术文章，讲他们怎么评估开源模型 gpt-oss 在最坏情况下可能被用歪的风险。他们用的方法叫“恶意微调”，说白了就是故意把模型往坏里教：在生物风险这块，让模型上网查资料、用强化学习训练它搞威胁制造；在网络攻击这块，把它扔进一个能写代码干活的环境里打 CTF 解题赛。

## 推荐理由

OpenAI 公开了评估 gpt-oss 最坏风险的恶意微调方法，用生物威胁制造和 CTF 解题两套环境探测模型被滥用后的能力边界。

## 锐评

恶意微调当最坏情况探针这个思路挺对，比标题里开放权重风险那个大词实在。生物风险让模型上网查资料加 RL 训威胁制造，网络攻击扔进能写代码的环境打 CTF，这两套环境本身就是可复用的资产。但只给相对结论，说 gpt-oss 落后 o3，分数、训练量、发布阈值一个没有，这种自评报告我信不过。能抄的是环境设计，结论先放着。
