跳到正文
OpenAI News

OpenAI 封禁了一批用 ChatGPT 搭俄语恶意软件的账号

Cyber Operation: Russian-speaking malware tooling

OpenAI 在 10 月威胁报告里披露,他们封掉了一批疑似跟俄语犯罪团伙有关的 ChatGPT 账号。这些人没让模型直接写病毒,而是拆成小块要代码:比如把程序转成能直接注入内存的 shellcode、写窃取浏览器密码的脚本、加花指令和垃圾代码来躲避杀毒软件,最后自己拼成完整的攻击工具。模型拒绝了明显恶意的请求,但没拦住这种“化整为零”的用法。Open...

推荐理由:OpenAI 官方威胁报告,给出了俄语团伙绕过安全过滤的具体手法,不是新模型或新能力,属于例行威胁披露,放在 featured 档合适。安全圈会关注这种“化整为零”的实操案例,对做 AI 安全策略的人有参考价值。

读原文 ↗导出 Markdown