Allen AI 用心理测量学给大模型基准做“体检”，发现很多题目测的根本不是你以为的能力

BenchMIRT: What are LLM benchmarks actually measuring?

Allen AI 开源了一套叫 BenchMIRT 的方法，用多维项目反应理论（MIRT）来审查大模型评测基准到底在考什么。他们分析了 100 个模型在 16 个基准、超过 3.4 万道题上的表现，没给任何预设，系统自动分离出两个核心能力维度：安全性和通用推理能力。比如 BBQ 基准里一道关于祖孙俩叫 Uber 的题，表面测年龄偏见，实际上还要求模型理...

推荐理由：Allen AI 开源了一套方法，拿项目反应理论来审计评测基准，背后有 100 个模型和 3.4 万道题撑腰。分数没上 80 是因为它是个方法论工具，不是能直接上线的产品更新，但 H、K、R 三个点都踩实了，信息也够硬。