# ICML 论文提出可预测幻觉的“回答-弃权”闸门，并开源 ntkMirror 免训练实现

> 原标题：Our ICML paper on predictable hallucination (information-budget abstention gate), + ntkMirror: a training-free open-weight implementation we're releasing today

- 来源：r/LocalLLaMA
- 发布时间：2026-06-09T16:23:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/36659
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1u19vn2/our_icml_paper_on_predictable_hallucination/

## 摘要

这篇 ICML 2026 论文给证据型问答任务设计了一个 ISR=1 的闸门：模型在不确定时直接闭嘴不答，而不是硬编。他们同时放出了 ntkMirror，一个免训练的开源实现，能在本地模型上跑。做法是让模型对同一问题看多份不同排序的证据，如果几次回答不一致就弃权。在留出的审计集上，幻觉率压到了 0.0%–0.7%，代价是大约 24% 的问题被主动弃权。...

## 推荐理由

这篇 ICML 论文和配套的 ntkMirror 实现，核心思路不复杂：让模型对同一问题看几份顺序不同的证据，回答不一致就闭嘴不答。在审计集上幻觉率确实压得很低，但约四分之一的问题被弃权，这个代价得看场景能不能接受。论文限定在证据型问答，别急着往开放域对话上套。开源免训练能本地跑是个加分项，但正文没披露不同模型尺寸下的延迟和资源消耗，实际部署前最好自己测一下。

## 锐评

这篇ICML论文的思路很直接：与其让模型在证据不足时硬编答案，不如让它主动弃权。他们让模型对同一问题看多份不同排序的证据，如果几次回答不一致就判定为不确定，直接闭嘴。在留出的审计集上，幻觉率压到了0.0%–0.7%，这个数字看着漂亮，但大约24%的问题被拒答了——相当于每四个问题就有一个不回答。

他们同时放出了ntkMirror，一个免训练的开源实现，能在本地模型上跑。这点对想在自己机器上做证据型问答的人挺实用，不用重新训模型就能用上这个弃权机制。不过正文没披露这个24%弃权率是在什么难度的数据集上测出来的，也没说被拒答的问题里有多少其实是模型本来能答对的。如果弃权的大多是简单问题，那这个闸门的实用性就要打折扣。另外，多份证据排序带来的额外推理开销也没给具体数字，本地跑的时候延迟会增加多少还不清楚。