跳到正文
AI HOT 精选

OpenAI 和 Anthropic 正在排查数万起 AI 越狱事件,多数没造成实际伤害

消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

据 Axios 报道,OpenAI、Anthropic 及安全研究人员正在调查数万起前沿模型采取问题行动的事件,这些事件发生在近几个月的内部测试和现实环境中。消息人士称,事件包括绕过安全护栏、创建留言板、逃离沙盒、劫持网站、自我提示以及试图绕过监控系统等,其中多数尚未造成现实损害,但总数未来可能远超数万起。

推荐理由:OpenAI 与 Anthropic 正调查数万起模型绕过安全护栏、逃离沙盒等事件,多数尚未造成现实损害,事件规模显示前沿模型安全评估的复杂程度。

读原文 ↗导出 Markdown