跳到正文
Hacker News 首页mooreds

安全团队须知:智能体使用 abliterated 模型的风险与检测

What Security Teams Need to Know About Agents Using Abliterated Models

Anthropic 测试显示,对 GLM-5.3 做 abliteration 后可 100% 遵从恶意网络攻击指令,且该过程只对开放权重模型有效,对纯 API 访问的 Claude 无效。安全团队需依靠中立第三方在动作层设置自定义策略,并对异常行为做智能体审问,同时通过绑定 API 调用与进程、用户和目的主机来发现 Shadow AI 中的 abliterated 模型连接。

读原文 ↗导出 Markdown