Perplexity 上线查询感知压缩,上下文 token 最多砍掉 70% 但回答质量反而更好
上下文压缩技术提升搜索效率与准确性
Perplexity 把一项叫“查询感知压缩”的技术用到了线上。它能在搜索时把喂给模型的上下文 token 最多减少 70%,同时回答质量还提升了。核心逻辑是“更好的上下文优于更多的上下文”,也就是先理解你问什么,再挑最相关的信息塞进窗口,而不是一股脑全丢进去。
推荐理由:Perplexity 将查询感知压缩用于线上搜索,喂给模型的上下文 token 最多减少 70%,回答质量反而提升,其先理解问题再筛选信息的做法提供了压缩与效果兼顾的参考。