ICML 论文提出可预测幻觉的“回答-弃权”闸门,并开源 ntkMirror 免训练实现
Our ICML paper on predictable hallucination (information-budget abstention gate), + ntkMirror: a training-free open-weight implementation we're releasing today
这篇 ICML 2026 论文给证据型问答任务设计了一个 ISR=1 的闸门:模型在不确定时直接闭嘴不答,而不是硬编。他们同时放出了 ntkMirror,一个免训练的开源实现,能在本地模型上跑。做法是让模型对同一问题看多份不同排序的证据,如果几次回答不一致就弃权。在留出的审计集上,幻觉率压到了 0.0%–0.7%,代价是大约 24% 的问题被主动弃权。
推荐理由:ICML 论文为证据型问答设计弃权闸门,模型在多次证据排序下回答不一致时直接不答,配套开源免训练实现 ntkMirror,审计集上幻觉率降至 0.0%–0.7%,代价是约 24% 的问题被弃权。