跳到正文
Hacker News 首页

大模型还是不会算数、活在旧数据里,我们只是用外挂把坑填上了

LLMs Are Still Toxic, Stuck in the Past, and Bad at Math

作者拿 GPT Sol High 跑了 200 道加法,错了一道。模型不是在算,是在猜下一个数字长什么样。ChatGPT 能算对,是因为外面的程序把题目丢给了 Python 脚本。文章顺着这个思路拆了另外三个老毛病:知识停在训练截止日,靠外挂资料库(RAG)补;上下文窗口有限;模型骨子里还是有毒。真正的进步不在模型本身,而在包在它外面的那层工具。

推荐理由:这篇文章从一道加法错题切入,把大模型四个老毛病——算数靠猜、知识过时、记性短、骨子里有毒——挨个拆了一遍。作者没写公关稿,直接说进步来自外挂工具而不是模型本身,对天天用 AI 写代码的人是个清醒提醒。我会先打个折:正文没给毒性测试的具体样本,但实验部分和判断够实在,值得放在推荐位。

读原文 ↗导出 Markdown