GPT-5 的安全训练不再一刀切拒绝,改看回答本身安不安全
From hard refusals to safe-completions: toward output-centric safety training
OpenAI 在 GPT-5 上换了一种安全训练思路,叫“安全补全”。以前模型是看用户问题有没有风险,有风险就直接拒绝;现在改成看模型生成的回答本身是否安全,尽量在安全边界内给出最有用的回复。具体做法是两条:回答违规就按严重程度扣分,回答安全就按有用程度加分。
推荐理由:OpenAI 在 GPT-5 上把安全训练从判断问题风险改为评估回答本身,违规按严重程度扣分、安全按有用程度加分,这一机制调整是理解模型安全策略转向的具体样本。