# OpenAI 把安全委员会升级成独立监督机构，有权叫停模型发布

> 原标题：An update on our safety & security practices

- 来源：OpenAI News
- 发布时间：2024-09-16T13:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/712
- 原文：https://openai.com/index/update-on-safety-and-security-practices

## 摘要

OpenAI 在 2024 年 9 月 16 日宣布，原先的安全与安保委员会将变成一个独立的董事会监督委员会，由卡内基梅隆大学的 Zico Kolter 当主席。这个委员会能审查重大模型的安全评估，如果觉得有风险，可以直接推迟发布，直到问题解决。公告里还提了几件事：刚完成了一个 90 天的安全流程审查；正在评估要不要搞一个 AI 行业的信息共享与分析中...

## 推荐理由

我会先打个折：没有新模型、没有外部审计结果、也没有可复现的基准数据，所以到不了 P1。但这条消息比泛泛的安全声明实在得多。OpenAI 把安全委员会升格成独立董事会监督委员会，由 Zico Kolter 当主席，能看重大安全评估，还能在问题没解决时叫停发布——这等于给发布流程加了一道硬闸门。正文还提到 90 天审查已完成、在评估行业 ISAC、跟洛斯阿拉莫斯国家实验室搞安全合作，信息密度不低。对从业者来说，这直接关系到模型发布的可预期性和安全问责，所以 HKR 三项都站得住。

## 锐评

OpenAI 把原先内部的安全委员会变成了一个独立的董事会监督委员会，由卡内基梅隆的 Zico Kolter 当主席。这个委员会最大的实权是：如果觉得重大模型的安全评估不过关，可以直接推迟发布，直到问题解决。公告里说，o1 模型发布前已经走过这套流程。

这算是 OpenAI 在治理结构上的一次补课，把安全审核从“自己查自己”往“独立第三方说了算”挪了一步。但公告没披露委员会的具体否决标准、投票机制，也没说如果委员会和公司管理层意见冲突时怎么裁决。另外，文中提到的 90 天安全审查，只说了“已完成”和“采纳建议”，没放出审查报告原文，外部没法验证到底改了哪些东西。

还缺几个关键信息：委员会成员除了 Kolter 之外，其他人跟 OpenAI 有没有利益关联；推迟发布的触发线具体划在哪里；以及这个委员会对已上线模型的持续监控有多大权限。这些不补上，独立监督的成色就得打个折。