跳到正文
AI HOT 精选

vLLM 新增 Gumbel-max 水印:生成文本自带防伪标记,不改变模型输出分布

vLLM 新增基于 Gumbel-max 的无失真文本水印功能

vLLM 这次加的水印功能,核心是用 Gumbel-max 这个数学技巧在模型随机采样时埋入可检测信号,同时保证每个 token 被选中的概率跟原来一模一样,不会让模型说话变味。具体做法是给每个候选 token 加一个用密钥和上文算出来的伪随机噪声,再选噪声后概率最大的 token;检测时拿同一把密钥和分词器就能还原这些噪声值,看文本是不是跟噪声对齐,...

推荐理由:vLLM 加了一个有论文背书的无失真水印功能,对做模型服务和内容溯源的人挺实用。分数没给更高是因为它属于基础设施改进,不是模型能力跃升,而且正文没给出延迟和检测准确率的具体数字,我会先打个折。

读原文 ↗导出 Markdown