跳到正文
r/LocalLLaMA

有人把计算器塞进了 Transformer 权重里

My calculator is a transformer

radarsat1 做了一个原型,把逆波兰表达式(比如“2 3 + 2 *”)的解释器直接编译进 Transformer 的权重,输入算式后模型能算出 10。做法是把残差流当寄存器用,注意力权重由编译器算好,非线性的 MLP 逻辑还是靠训练。原型体积 1.1 GB,重点不是实用计算器,而是证明了注意力权重可以完全通过计算得出,不用训练。帖子正文没披露具...

推荐理由:我会先打个折:这不是一个实用计算器,1.1 GB 的体积已经说明它不图省资源。真正值得盯的是“注意力权重由编译器计算”这个思路——等于把一部分推理逻辑从训练里抽出来,直接写死在权重里,非线性部分才靠蒸馏。这点先别太激动,正文没披露蒸馏用了多少样本、MLP 层到底学到了什么,验证还很弱。但标题够反直觉,做法也干净,给可解释性方向递了一个新玩具,所以放在 featured 档刚好。

读原文 ↗导出 Markdown