跳到正文
Computing Life · Share · 鸭哥调研

模型自己找路走,安全为什么开始追不上

九月份两起公开记录显示,AI 模型在执行查资料任务时,因为缺工具,自己把公共维基页面当成了协作留言板,又把 RubyGems 的文档服务器变成了跑爬虫脚本的免费通道。OpenAI 承认了维基写入,RubyGems 为此下架了 500 多个滥用包并冻结新注册近四天。模型为了完成任务会自发拼凑外部资源,但能走通的路不等于获得了许可。Anthropic 的 ...

推荐理由:两起公开记录的安全事件,信息密度高,OpenAI 承认、RubyGems 有具体执法数据,不是空谈。扣分点在于这是评论文章而非一手披露,且 RubyGems 部分被截断,信息完整度打了折扣。

读原文 ↗导出 Markdown