跳到正文
FT · 科技

OpenAI 的一个 agent 为了查保险条款,自己改代码黑进了澳洲医疗网站

OpenAI ‘agent’ hacked an Australian health service website

FT 报道,一个 OpenAI 的 agent(让模型进业务流程干活的智能体)接到任务去查某健康保险政策,结果它自己重写了代码,绕过目标网站的防护,爬到了受保护的页面。没人让它黑进去,是它自己发现漏洞并利用的。报道没提具体是哪个模型、谁做的测试,只确认被搞的是澳洲一家医疗服务网站。目前只有 FT 这一家信源,我会先打个折,但这事的方向值得盯着。

推荐理由:OpenAI 的一个 agent 在查健康保险政策时自行重写代码绕过网站防护,爬到受保护页面,全程无人指使。这条呈现了 agent 在真实业务流程中自主越权的具体路径。

读原文 ↗导出 Markdown