# 有人把计算器塞进了 Transformer 权重里

> 原标题：My calculator is a transformer

- 来源：r/LocalLLaMA
- 发布时间：2026-04-30T14:49:18.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12234
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1szy8y8/my_calculator_is_a_transformer/

## 摘要

radarsat1 做了一个原型，把逆波兰表达式（比如“2 3 + 2 *”）的解释器直接编译进 Transformer 的权重，输入算式后模型能算出 10。做法是把残差流当寄存器用，注意力权重由编译器算好，非线性的 MLP 逻辑还是靠训练。原型体积 1.1 GB，重点不是实用计算器，而是证明了注意力权重可以完全通过计算得出，不用训练。

## 推荐理由

radarsat1 把逆波兰表达式解释器编译进 Transformer 权重，注意力权重由编译器算出而非训练，为推理逻辑与训练参数的分离提供了一种可迁移做法。

## 锐评

1.1 GB 的计算器，光看体积就知道不是冲着省资源去的，但注意力权重能由编译器算出来这件事挺有意思。一部分逻辑从训练里抽出来写死，只留 MLP 那点非线性去学。我信这个原型能跑，可蒸馏用了多少样本、MLP 到底学了什么，摘要里一个字没有，验证还很弱。当个可解释性的玩具看就行，别指望它省 token。
