跳到正文
Hacker News 首页jethronethro

OpenAI 安全负责人 David Robinson 辞职,批评公司文化失灵

OpenAI safety leader quits, warning AI company's culture is 'broken'

OpenAI 安全负责人 David Robinson 辞职,批评公司文化失灵、产品发布节奏过快,未达到他认为必要的审慎程度。他曾主导产品发布配套安全报告的撰写,呼吁借鉴核能与航空领域的安全经验,并研究如何约束自主运行的强大系统。OpenAI 回应称正加强安全措施,并会在必要时暂停训练或推迟模型发布,以确保模型能力不超出可安全管理的范围。

推荐理由:David Robinson 辞职后提出借鉴核能与航空安全经验,将冗余机制和耗时规划引入前沿 AI 实验室。

读原文 ↗导出 Markdown