OpenAI 在 12 月 20 日介绍了 deliberative alignment，一种直接让推理模型学习人类写的安全规范文本，并在回答前先对着规范做推理的训练方法。o 系列模型用上了这套方法，推理时会在思维链里调取内部政策、判断请求是否违规，再给出回复。整个过程不需要人工标注思维链或答案。文章说 o1 在内部和外部安全基准上大幅超过 GPT-4...
推荐理由：我会先打个折：正文没给 o1 的具体基准分数，只说比 GPT-4o 强很多、部分数据集接近饱和，所以没法判断实际提升幅度。但方法本身有嚼头——用人类能看懂的安全规范训练模型在回答前显式推理，而且不需要人工写思维链样本，省了不少标注成本。安全对齐从“事后拦截”变成“事前想清楚”，这个转向值得关注。综合看，放在 featured 没问题，83 分也合理，毕竟缺了硬数据，离必写还差一口气。
OpenAI 把 o1 和 o1-mini 的安全测试结果公开了。核心就一句话：o1 系列用大规模强化学习训练模型在回答前先进行“思维链”推理，这让它在遵循安全规则、抵抗越狱攻击上比前代强。但正文没披露具体的数据配比和完整基准分。安全方面，他们设了上线门槛——风险缓解后评分必须“中”或更低。目前给出的评分是：网络安全低、生化威胁中、说服能力中、模型自主...
推荐理由：这是一份前沿推理模型的高信号安全披露，不是常规物料。HKR-K 强在公布了部署门槛、四项风险评级和测试范围；HKR-R 成立是因为从业者持续关注推理模型的安全阈值和 CoT 透明度。事实核查：系统卡原文确实列出了这些评级和门槛，未发现错误或过时信息，安全建议也符合当前实践。
OpenAI 在 2024 年 11 月 21 日发了两篇论文，把自家红队测试（就是找人来攻击模型、挖风险）的方法摊开来讲。第一篇白皮书专门说外部人类红队的流程，讲了三个具体设计选择：一是根据威胁模型挑人，比如要找懂网络安全、会小语种或熟悉某地区政治的人；二是给测试员看哪个版本的模型，没加安全措施的早期版本能测出新能力带来的风险，加了措施的版本能测防护...
推荐理由：我会先打个折：正文对自动化红队的实验指标和效果摘录不全，这点先别太激动。但 OpenAI 这次把外部红队怎么组队、怎么分配模型版本、怎么收反馈这三件事说清楚了，流程比“红队”这个词本身值钱。如果是真的按威胁建模来组队，安全团队可以直接抄作业。
OpenAI 放出了一个包含 4326 道题的基准 SimpleQA，题目都是简短、有明确答案的事实类问题，比如“2022 年世界杯荷兰对阿根廷，哪位荷兰球员打进了运动战进球”。每道题都经过两名独立 AI 训练师交叉验证，又抽了 1000 道题做第三方审计，发现答案一致率 94.4%，估算数据集本身的固有错误率在 3% 左右。这个基准的目标是给前沿模型...
推荐理由：OpenAI 开源了一个事实问答基准 SimpleQA，4,326 道题，专门测模型回答短事实的准确率和校准能力。我会先打个折：它叫“简单”，但实际是给前沿模型挖坑，GPT-4o 得分不到 40%，说明越强的模型越容易在这上面翻车。数据质量方面，两道人工交叉核验，1,000 题抽检一致率 94.4%，估算固有错误率约 3%，这点先别太激动，3% 的错题率意味着有些题本身可能就有争议或歧义。整体看，这不是一篇例行公事的论文发布，而是一个直接打中可靠性、校准和基准信任问题的动作。
OpenAI 发了个新方法叫 sCM，把连续时间一致性模型的训练搞稳定了，直接扩到 15 亿参数，在 512×512 的 ImageNet 上跑。它只用两步采样，出图质量就能跟现在最好的扩散模型打平，单张 A100 上 0.11 秒出一张图，比扩散模型快大约 50 倍。论文里对比了有效算力，sCM 花不到 10% 的算力就拿到差不多的 FID 分数。不...
推荐理由：这篇论文把连续时间一致性模型真正做大了，15 亿参数在 ImageNet 512×512 上跑通，两步采样就能拿到跟扩散模型差不多的样本质量，墙钟速度快了大约 50 倍。单张 A100、batch size=1、没做推理优化时 0.11 秒出一张图，这个数对实际部署有参考价值。我会先打个折：正文没披露跟其他快速采样方案（比如蒸馏模型）的直接对比，也没说训练用了多少算力，所以“快 50 倍”是跟谁比、代价多大，还得看后续细节。但能把快采样和大规模训练同时稳住，本身就是一个信号，说明这条路在工程上开始走得通了。
OpenAI 拿几百万条 ChatGPT 的真实对话做了次内部体检，想看看用户的名字会不会触发有害的刻板印象。他们让 GPT-4o 当“隐私保护评审员”去读聊天记录、找规律，研究员看不到原始对话。结果发现，ChatGPT 的回答质量不会因为名字暗示的性别或种族而变差，但确实有大约 0.1% 的情况，名字会引出有害偏见。在写故事这类开放任务里，出问题的概...
推荐理由：OpenAI 拿数百万条真实 ChatGPT 请求做了一次公平性审计，这种事很少见。我会先打个折：整体有害刻板印象发生率约 0.1%，看着很低，但研究也坦白种族相关判定的一致率不如性别高，这点先别太激动。真正该盯的是旧模型——GPT-3.5 Turbo 在分任务评测里偏差最明显，说明模型升级确实在压这个问题。研究用 GPT-4o 当隐私保护评审器，省了人工成本，但正文没披露评审器本身有没有系统性偏见。整体是一份有数据、有对比、有保留的工程报告，不是公关稿。
OpenAI 从 Kaggle 挑了 75 个真实比赛做成基准测试，让 AI 智能体自己训练模型、处理数据、跑实验。最强的组合是 o1-preview 配上 AIDE 脚手架（一种帮模型自动迭代代码的工具），在 16.9% 的比赛里拿到了至少铜牌水平。这个成绩说明模型能独立完成一些 ML 工程任务，但离真正拿金牌还差得远。团队还研究了多给算力、多跑几次...
推荐理由：OpenAI 这次没让模型刷题，而是让它真刀真枪跑完 75 个 Kaggle 竞赛——从准备数据、训模型到交结果，整套 ML 工程流程都得自己来。最佳组合 o1-preview + AIDE 在 16.9% 的任务里摸到了铜牌线，说明能做一些，但离靠谱还差得远。我会先打个折：铜牌在 Kaggle 上不算难，正文也没披露具体是哪些任务、失败在哪类环节，所以别急着喊“替代 ML 工程师”。真正值得看的是它把评测从“会答题”扭到了“能干完整工程活”，而且代码开源，团队可以自己跑一遍看自家 agent 几斤几两。
OpenAI 推出了新模型 o1-preview，主打推理能力。在 AIME 2024 数学竞赛题上，o1 单次答题正确率 74%，GPT-4o 只有 12%；如果让模型对同一道题算 64 次再投票，正确率能到 83%。编程竞赛 Codeforces 上 o1 排到前 11%，GPQA Diamond 博士级科学题正确率超过了人类专家。这些提升靠的是大...
推荐理由：这是一次有产品含义的实质性研究发布。钩子落在 o1 的推理线和大跨度的基准跃升上，知识性来自可验证的数字和推理扩展律的机制说明，相关性在于它直接冲击模型策略和推理经济学。信息密度高，没有公关腔，给 93 分合理。
OpenAI 和 SWE-bench 原作者一起搞了个“验过货”的子集，叫 SWE-bench Verified。他们发现原版测试有坑：单元测试太死板、问题描述含糊、环境搭不起来，导致明明对的代码被判错，会系统性地低估模型写代码的真实水平。截至 2024 年 8 月 5 日，头部智能体在原版 SWE-bench 上得分约 20%，在 SWE-bench...
推荐理由：这不是一次常规发布。OpenAI 拉着原作者把 SWE-bench 翻了一遍，点出三类硬伤，还给出了新的分数天花板。我会先打个折：正文没披露修正后的完整新榜单，但现有数据已经足够让人重新审视那些代码智能体的评测成绩。
OpenAI 在 8 月 8 号发了 GPT-4o 的系统卡，把安全底牌摊开来看。这个模型能直接吃文本、音频、图片和视频，输出也一样，最快 232 毫秒就能回话，平均 320 毫秒，跟人聊天反应速度差不多。API 价格比 GPT-4 Turbo 便宜一半。在 OpenAI 自己的安全框架里，网络安全、生物威胁、模型自主性三项风险都是低，说服力这项擦边踩...
推荐理由：这不是一篇例行公事的发布。它把 preparedness 四类风险评级、232 毫秒语音延迟和明确的部署门槛都摆出来了。HKR 三项全中，但本质是安全披露而非新模型或重大产品发布，所以放在 featured 而不是 p1。
OpenAI 在 7 月 24 日公开了他们用在安全对齐上的新方法：Rule-Based Rewards（RBRs），也就是用一套事先写好的规则给模型回复打分，而不是每次都靠人反复标注。这套方法把模型面对敏感请求时的反应分成三类——硬拒绝（简短道歉并明确说不）、软拒绝（带同理心地拒绝）和正常遵从——然后针对每类行为设定具体的评判标准，比如“回复是否在说...
推荐理由：我会先打个折：正文截取部分没给具体效果数字，也没对比基线，所以分数压在 78–84 这个区间。但 OpenAI 把安全规则显式写进奖励模型这件事本身值得关注，因为它解决的是工程上很实际的麻烦——政策一改，不用重新雇人标一堆数据，改规则就行。三种响应模式（硬拒、软拒、合规）让模型拒绝时不会太生硬，这点对产品体验有帮助。不过别太激动，论文没披露误拒率或漏判率，实际线上表现还得看后续有没有更细的评测。
OpenAI 让 GPT-4 家族里的大模型和小模型玩一个博弈游戏：大模型当“证明者”负责解题，小模型当“验证者”负责判对错。大模型如果只追求答案正确，写出来的解题步骤会越来越难读——人类评估员在限时条件下，错误率几乎翻倍。换成这种博弈训练后，大模型必须写出连小模型都能看懂的推理过程，结果人类评估的准确率也上来了。文章说大小模型之间的预训练算力差了大约...
推荐理由：OpenAI 这篇研究把可读性做成训练信号，强模型要写出弱模型能核验的答案，人类评审也证实有效果。我会先打个折：正文只给了部分数字，完整实验表没披露，所以不能把效果说死。但思路本身戳中了可扩展监督的痛点，加上 hook 清晰、机制新，放在 featured 没问题。