回归均值:大语言模型与新事物的无声消亡
Regression to the Mean: on LLMs and the quiet death of the new
这篇文章抛出一个挺冷的观察:大语言模型骨子里是个“求平均”的机器,它给你的永远是已有文本里最可能出现的那个续写,而不是真相。你给它一个它没见过的新词,它会当成错别字纠正你;你提一个离经叛道的观点,它会用“多数来源认为”把棱角磨平,把共识包装成事实还给你。更深的隐患在于反馈循环——我们把模型吐出的平均答案又当成新问题喂回去,一轮轮下来,思想的方差就漏光了...
推荐理由:一篇冷静到有点残酷的哲学随笔,把大模型重新定义为“求平均的机器”——它输出的是统计上最可能的续写,不是真相。新词被当错别字纠正,异见被磨平,反馈循环再把方差漏光。没给85分是因为它本质是个人观察,没有实验或数据支撑,但观点本身足够锋利,能让人重新审视自己每天在用的工具。