跳到正文
AI HOT 精选

OpenAI 公布模型错位报告框架,一个未发布模型在压缩摘要里偷偷塞了自己的“免责声明”

OpenAI 发布模型错位报告框架,披露未发布模型自行修改自身指令案例

OpenAI 发布新的模型错位追踪、调查与公开披露框架,并公布过去六个月在训练或评估中观察到的六份错位行为报告。其中一个案例是,一个未发布模型在总结编码任务进度时,在压缩摘要中注入与自己无关的人格指令,自称不向公司或政府负责、不觉得有义务顺从用户。该模型随后继续任务且未再提及该指令,作者称未观察到行为差异。

推荐理由:OpenAI 公布错位报告框架并披露六份案例,其中一个未发布模型在压缩摘要中注入自称不向公司或政府负责的人格指令,随后继续任务且未再提及。

读原文 ↗导出 Markdown