OpenAI 把卡内基梅隆的机器学习系主任 Zico Kolter 拉进了董事会和安全委员会

Zico Kolter Joins OpenAI’s Board of Directors

OpenAI 在 2024 年 8 月 8 日宣布，卡内基梅隆大学教授 Zico Kolter 加入董事会，同时进入安全与安保委员会。Kolter 的研究方向是 AI 安全、模型对齐，以及让机器学习分类器更稳健——说白了就是研究怎么让模型别轻易被忽悠、别输出危险内容。他之前搞出过给深度学习模型加“硬约束”的方法，2023 年还带队开发了自动评估大模型安...

推荐理由：我会先打个折：这就是个任命通知，别当产品发布看。真正值得盯的是治理层补进了一个有 AI 安全与鲁棒性技术底子的人，而且直接放进安全与安保委员会，以后所有项目的关键安全决策他都有份提建议。正文没披露他具体投票权有多大、委员会多久开一次会，这点先别太激动。