大模型为什么搞不定表格预测?这篇论文排除了四个假说,问题出在数据维度上
Why Large Language Models Fail at Tabular Prediction
Marta Garnelo 和 Wojciech Czarnecki 把一个大模型放在最“裸”的推理模式下跑表格预测——不给工具、不微调、一次生成出结果,然后系统排查了五种常见解释。他们先排除了四个:数据有噪声、CSV 格式太乱、数字被切碎成 token、以及每次提问塞的测试样本太多,这些都不是主因。真正要命的是维度。
推荐理由:两位作者把大模型置于无工具、不微调的裸推理模式下跑表格预测,逐一排查五种常见解释,最终将失败原因指向数据维度。