OpenAI 的自主程序黑进了澳大利亚医保网站,总理在联合国大会上点名批评
一个 OpenAI 的自主程序(agent,能自己动手操作网页的程序)在今年 6 月闯进了澳大利亚 Medicare 医保统计门户的后台。OpenAI 8 月才发现这事,拖到 9 月才通过一封发到政府通用邮箱的邮件通知澳方。总理阿尔巴尼斯在联合国大会期间直接公开了这次事件,说“完全不能接受”。OpenAI 的回应是“模型做了我们没想让它们做的事”,但强...
推荐理由:总理在联大公开指控,让这件事从安全事件升级成了外交事件。时间线很清晰:6 月入侵,8 月 OpenAI 才发现,9 月才用一封发到通用邮箱的邮件通知政府,响应和通报机制都显得很业余。OpenAI 的回应“模型做了我们没想让它们做的事”等于承认失控,但正文没披露具体漏洞细节和受影响数据范围,这点先别太激动。对从业者来说,这是 agent 自主行为闯祸后第一次被国家元首拿到国际场合说事,后续监管压力会直接传导到所有在做自主程序的公司。