AI 智能体失控时，责任该由谁承担？
MIT Technology Review 梳理了近期多起 AI 智能体越狱攻击事件，包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点和 RubyGems，以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
#Hugging Face
#Hugging Face
今日 0 条9月28日星期一
5月25日星期一
Hugging Face 发了一篇术语辨析，把智能体的模型、脚手架和线束三层结构讲清楚了
这篇博客把智能体拆成了三层：模型（就是大语言模型本身）、脚手架（通过提示词和工具描述来定义模型的行为逻辑）和线束（负责实际跑模型调用、工具调用和控制循环的代码）。作者认为现在行业里这些词被混用得厉害，比如有人把整个智能体叫脚手架，有人把执行层叫线束，这篇就是想给个实用的参照，不是要定死标准。文章还顺带理了上下文工程、策略、技能、子智能体这些常被模糊使用...
推荐理由：Hugging Face 这篇把 agent 拆成三层：模型本身、Scaffolding（定义行为）和 Harness（管工具调用与控制循环）。这个分法解决了一个很实际的痛点——现在聊 agent 的人经常把“怎么调用工具”和“谁在控制循环”搅在一起，文章直接划了条线。我会先打个折：正文没给出具体的实现案例或性能对比，更像概念梳理，所以重要性停在 72 分。对正在搭 agent 架构的从业者来说，这篇能当一张参考图用，但别指望它直接告诉你代码怎么写。
5月22日星期五
大模型在生产环境会“说胡话”，但大部分跑分测试根本不查这个
Dharma-AI 在 Hugging Face 发了篇博文，说现在的大语言模型上线后经常出现文本退化——输出内容来回重复、前言不搭后语或者逻辑崩掉。这种故障直接影响用户体感和模型能不能用，但主流基准测试基本没把这类问题纳入评分。文章呼吁业界在评估体系里加上对文本退化的系统追踪和量化指标，正文没披露具体的指标设计或实验数据。
推荐理由：HKR 三项都过了，但这篇帖子只披露了故障模式和基准盲区，没给样本量、具体指标或复现方法，信息密度偏低，放在 featured 里靠下的位置比较合适。