Hugging Face 科学家警告：让 AI 自己干活，安全风险还没谱

Hugging Face Scientist on Safety Issues With Agentic AI

Bloomberg 采访了 Hugging Face 的科学家，聊的是 agentic AI（让模型自主执行任务，比如帮你订机票、改代码）的安全问题。正文没披露具体出过什么事故，也没给出解决方案，核心就一句话：模型一旦能自己决定下一步做什么，出错的后果可能比单纯聊天严重得多。目前业界对这类风险的评估和防护都还很不成熟，这点先别太激动。