跳到正文
Computing Life · Share · 鸭哥调研

Perplexity 和 OpenAI 的 PII 检测器不是大语言模型,而是带分类头的双向编码器

上云前先脱敏:拆开 Perplexity 和 OpenAI 的 PII 检测器,它其实不是 LLM

Perplexity 开源的 pplx-pii-masking 是个 0.6B 参数的双向编码器,基于 Qwen3 但关掉了因果掩码,顶上挂了一个词元分类头和一个文档敏感度头。它用维特比解码输出 9 类敏感信息的起止位置和置信度。OpenAI 的隐私过滤器是 1.5B 的稀疏 MoE 模型,激活参数约 50M,标称 128K 上下文窗口,但带状注意力把...

推荐理由:作者自己跑了 Perplexity 开源检测器的实测,把误分类、切片偏移、漏检密钥这些坑都标出来了,然后解释了为什么自回归 LLM 天生没法输出每个片段的置信度。后半段提了需求但没展开 OpenAI 的实测,这点先打个折。整体是把一个容易写成论文的技术点讲成了能用的避坑指南,值得推荐。

读原文 ↗导出 Markdown