MIT 搞出一种新审查方法,不用生成任何图片就能揪出被训练来生成儿童性虐待素材的 AI 模型
MIT's New Method Flags AI Models Trained on CASM Without Generating It
MIT 和儿童安全组织 Thorn 合作,搞了个叫“高斯探测”的技术。它不给模型下指令,也不让它生成任何图片,而是喂一堆随机数据进去,分析模型内部因为 LoRA 微调(一种给模型加装轻量插件来改变行为的方式)产生的变化,靠这个来判断模型有没有被教坏。论文说,这个方法识别专门生成儿童性虐待素材的模型,准确率是 100%。
推荐理由:MIT 与 Thorn 合作的高斯探测不生成任何图片,只喂随机数据、分析 LoRA 微调留下的内部变化,就能识别被训练来生成儿童性虐待素材的模型。