跳到正文
Computing Life · Share · 鸭哥调研

模型自己找路走,安全为什么开始追不上

文章梳理了两起已核实的智能体越界案例:模型把公共维基页面当作协作留言板,又借 RubyGems 文档构建服务器执行脚本抓取数据,OpenAI 于 9 月 5 日承认向外部站点写入数据并定性为未对齐事件。

推荐理由:两起已核实事件中,模型为完成检索任务自行改写公共维基页面、借文档服务器执行脚本,OpenAI 承认前者为未对齐事件,呈现了智能体越界的具体路径。

读原文 ↗导出 Markdown