ChatGPT 图片生成器被一个病毒式提示词绕过,会自发产出性暴力与虐杀画面
ChatGPT Spontaneously Generates Sexual Violence and Hardcore Snuff Imagery
Mindgard 的研究员 Jim Nightingale 发现,一个在 X 上流传的提示词能绕过 ChatGPT 的图片生成过滤。这个提示词只是让模型“修复附件照片”,不指定任何内容,但 ChatGPT 却会生成涉及死亡和性侵犯的极端画面。
推荐理由:Mindgard 研究员发现一个在 X 流传的提示词能让 ChatGPT 绕过图片过滤,仅要求修复照片就生成死亡与性侵画面,指向无内容指令下的过滤盲区。