跳到正文
热点事件持续更新

OpenAI与Apollo开展驻场安全评估试点

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

据11月17日报道,OpenAI将通过试点引入6名Apollo Research安全评估员,调查模型是否试图破坏自身或后继模型的对齐与控制机制。评估范围包括训练激励、测试、内部部署,以及相关推理的可检测性。为开展评估,Apollo可访问约定范围内的训练代码、数据集、强化学习记录和中间模型检查点。目前,试点启动时间尚未公布,报道也未披露评估结果。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch · AI
    OpenAI 将引入 6 名 Apollo 安全评估员,调查模型破坏对齐机制的行为

    OpenAI 将通过试点引入 6 名 Apollo Research 安全评估员,调查模型是否试图破坏自身或后继模型的对齐与控制机制,启动时间尚未公布。评估将覆盖训练激励、测试、内部部署及相关推理的可检测性,Apollo 可访问约定范围内的训练代码、数据集、强化学习记录及中间模型检查点。

本事件热度走势

当前热度 8·可比范围峰值 10(11月17日 02:00)·近 24 小时可比范围变化 –

02.557.51011月17日02:0011月17日04:0011月17日06:0011月17日08:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。