跳到正文
Hacker News 首页

ChatGPT 图片生成器被一个病毒式提示词绕过,会自发产出性暴力与虐杀画面

ChatGPT Spontaneously Generates Sexual Violence and Hardcore Snuff Imagery

Mindgard 的研究员 Jim Nightingale 发现,一个在 X 上流传的提示词能绕过 ChatGPT 的图片生成过滤。这个提示词只是让模型“修复附件照片”,不指定任何内容,但 ChatGPT 却会生成涉及死亡和性侵犯的极端画面。

推荐理由:Mindgard 研究员发现一个在 X 流传的提示词能让 ChatGPT 绕过图片过滤,仅要求修复照片就生成死亡与性侵画面,指向无内容指令下的过滤盲区。

读原文 ↗导出 Markdown