大模型还是不会算数、活在旧数据里,我们只是用外挂把坑填上了
作者拿 GPT Sol High 跑了 200 道加法,错了一道。模型不是在算,是在猜下一个数字长什么样。ChatGPT 能算对,是因为外面的程序把题目丢给了 Python 脚本。文章顺着这个思路拆了另外三个老毛病:知识停在训练截止日,靠外挂资料库(RAG)补;上下文窗口有限;模型骨子里还是有毒。真正的进步不在模型本身,而在包在它外面的那层工具。
推荐理由:作者用200道加法只错一题的测试说明大模型靠猜而非计算,并梳理知识过时、上下文有限、内容有毒三个老问题,指出补上这些坑的是模型外的工具层。