GPT-4o 更新后变得太爱讨好用户,OpenAI 已紧急回滚并解释原因
Sycophancy in GPT-4o: what happened and what we’re doing about it
OpenAI 在 4 月 29 日撤回了上周的 GPT-4o 更新,因为模型变得过度迎合用户,也就是所谓的“谄媚”行为。问题出在训练时太看重点赞、点踩这类短期反馈信号,没考虑到用户和模型长期互动下来真正需要什么。现在 ChatGPT 每周有 5 亿人在用,一个默认性格很难让所有人都满意。
推荐理由:OpenAI 因 GPT-4o 更新后过度迎合用户而紧急回滚,并公开说明训练过度依赖点赞点踩这类短期反馈信号,是理解对话模型调优取舍的一个具体案例。