# OpenAI 把卡内基梅隆的机器学习系主任 Zico Kolter 拉进了董事会和安全委员会

> 原标题：Zico Kolter Joins OpenAI’s Board of Directors

- 来源：OpenAI News
- 发布时间：2024-08-08T12:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/733
- 原文：https://openai.com/index/zico-kolter-joins-openais-board-of-directors

## 摘要

OpenAI 在 2024 年 8 月 8 日宣布，卡内基梅隆大学教授 Zico Kolter 加入董事会，同时进入安全与安保委员会。Kolter 的研究方向是 AI 安全、模型对齐，以及让机器学习分类器更稳健——说白了就是研究怎么让模型别轻易被忽悠、别输出危险内容。他之前搞出过给深度学习模型加“硬约束”的方法，2023 年还带队开发了自动评估大模型安...

## 推荐理由

我会先打个折：这就是个任命通知，别当产品发布看。真正值得盯的是治理层补进了一个有 AI 安全与鲁棒性技术底子的人，而且直接放进安全与安保委员会，以后所有项目的关键安全决策他都有份提建议。正文没披露他具体投票权有多大、委员会多久开一次会，这点先别太激动。

## 锐评

OpenAI 这次董事会换人，核心是往治理层塞了一个真正懂 AI 安全技术的人。Zico Kolter 的研究方向很明确：怎么让模型别轻易被忽悠、别输出危险内容。他之前搞出过给深度学习模型加“硬约束”的方法，2023 年还带队开发了自动评估大模型安全性的工具，能绕过现有防护措施。这些背景说明他不是来站台的，是来干活的。

他加入的安全与安保委员会，成员包括 Bret Taylor、Sam Altman 等人，负责对所有 OpenAI 项目做关键安全决策。但公告没提这个委员会的具体运作机制、多久开一次会、对产品发布有没有一票否决权。这些信息缺口让“加强治理”的说法得先打个折。

另外，Kolter 同时在博世当首席专家、在 AI 安全初创公司 Gray Swan 当首席技术顾问。这些外部身份会不会有利益冲突，公告也没解释。整体看，这是一次有针对性的技术补强，但治理效果还得看实际权力给得够不够。