跳到正文
Hacker News 首页

大模型为什么搞不定表格预测?这篇论文排除了四个假说,问题出在数据维度上

Why Large Language Models Fail at Tabular Prediction

Marta Garnelo 和 Wojciech Czarnecki 把一个大模型放在最“裸”的推理模式下跑表格预测——不给工具、不微调、一次生成出结果,然后系统排查了五种常见解释。他们先排除了四个:数据有噪声、CSV 格式太乱、数字被切碎成 token、以及每次提问塞的测试样本太多,这些都不是主因。真正要命的是维度。在 31 个基准数据集上,随着输入...

推荐理由:我会先打个折:这篇论文没给新工具,也没开源什么能直接用的东西,所以别指望拿来就能提效。但它干了一件很实在的事——把大模型扒到最“裸”的推理模式,一条条排查为什么表格预测不行。先排除了数据脏、格式乱、分词坑、样本多这四个常见借口,最后锁定维度才是真凶:列一多,模型直接懵了。这个发现对正在用大模型硬啃表格数据的人是个清醒剂,告诉你别瞎试了,瓶颈在哪儿已经有人帮你验过了。

读原文 ↗导出 Markdown