OpenAI 封禁了一批用 ChatGPT 搭俄语恶意软件的账号
Cyber Operation: Russian-speaking malware tooling
OpenAI 在 10 月威胁报告里披露,他们封掉了一批疑似跟俄语犯罪团伙有关的 ChatGPT 账号。这些人没让模型直接写病毒,而是拆成小块要代码:比如把程序转成能直接注入内存的 shellcode、写窃取浏览器密码的脚本、加花指令和垃圾代码来躲避杀毒软件,最后自己拼成完整的攻击工具。模型拒绝了明显恶意的请求,但没拦住这种“化整为零”的用法。
推荐理由:OpenAI 披露封禁一批俄语犯罪团伙账号,其手法是把恶意代码拆成小块分别索取再自行拼装,为理解模型安全过滤的绕过方式提供了具体案例。