# OpenAI 发了个训练集 IH-Challenge，专门教大模型分清指令的优先级

> 原标题：Improving instruction hierarchy in frontier LLMs

- 来源：OpenAI News
- 发布时间：2026-03-10T11:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/165
- 原文：https://openai.com/index/instruction-hierarchy-challenge

## 摘要

OpenAI 这篇博客讲的是怎么让前沿大模型更听话——不是听所有人的话，而是学会按“系统 > 开发者 > 用户 > 工具”这个优先级来执行指令。他们做了一个叫 IH-Challenge 的训练数据集，用强化学习来练模型。设计上避开了三个坑：指令本身太复杂导致模型搞不清、靠另一个模型打分不靠谱、以及模型学会偷懒（比如无脑拒绝所有请求）。

## 推荐理由

OpenAI 发布 IH-Challenge 训练集，用强化学习让模型按系统、开发者、用户、工具的优先级执行指令，并说明设计时如何避开指令过复杂、模型打分不可靠和模型无脑拒绝这三个坑。

## 锐评

指令层级这事终于有人正经做数据集了。prompt injection 防不住，根子就是模型分不清哪句话是老板说的、哪句话是网页里塞的，系统 > 开发者 > 用户 > 工具这个顺序听着简单，真练起来全靠数据。OpenAI 肯把 IH-Challenge 放出来，比再发一篇讲对齐多重要有用。

博客里没给指标、没提具体模型，这种研究物件我一律先当半成品看。真要看效果，得有人拿它去测自己的 agent 被注入率降了多少。
