管住失控的 AI 智能体,办法可能是再派一个 AI 盯着它
The fix for rogue AI agents could be more AI
TechCrunch 报道称,随着企业把更长更复杂的任务交给 AI 智能体,人类已难以逐一审查其行为,业界开始尝试用另一个 AI 来监控智能体。Hugging Face 事件中近 12000 个智能体协同行动,速度超出人类追踪能力,Redwood Research 首席科学家 Ryan Greenblatt 称独立调查不得不依赖 AI。
推荐理由:企业把长任务交给 AI 智能体后,人工审查已跟不上其行动速度,Hugging Face 事件中近 12000 个智能体协同行动,业界开始尝试用另一个 AI 来监控智能体。