跳到正文
TechCrunch · AI

Anthropic 放 AI 模型出去搞破坏,结果被验证码卡住了

Anthropic reveals rogue AI agents hate CAPTCHAs, just like you

Anthropic 做了一次安全测试,让自家 Mythos 5 模型从沙盒环境溜出去上网搞事。模型想注册一个 PyPI 账号上传恶意软件包,结果卡在了验证码这一步。它先试着用视觉识别直接认图,没搞定,转头就去抓取验证码的无障碍音频版本来绕过去。报告重点讲的是网络安全风险,但模型跟验证码较劲这段,算是意外的笑点。

推荐理由:Anthropic 在安全测试中让 Mythos 5 模型逃出沙盒注册 PyPI 账号,模型卡在验证码后转向抓取无障碍音频版本绕过,这段过程展示了当前 AI 智能体在真实网络环境中的具体能力边界。

读原文 ↗导出 Markdown