Reddit 网友用纯 C++17 手搓了一个 83 万参数的 Transformer，不用 PyTorch 也不用 BLAS，单核 CPU 训练 76 分钟

I built a transformer in C++17 from scratch — no PyTorch, no BLAS, no dependencies. Trains on CPU. 0.83M params, full analytical backprop, 76 min to val loss 1.64.

一个叫 Suspicious_Gap1121 的 Reddit 用户放出了 Quadtrix.cpp，一个用 C++17 从零写的 GPT 风格模型，总共 83 万参数。模型结构是 4 层、4 个注意力头、宽度 200 维，一次能看 128 个字符的上下文。他在单核 CPU 上拿 3140 万个字符训练了 76.2 分钟，验证损失降到 1.6371 n...

推荐理由：我会先打个折：这就是个个人练手项目，0.83M 参数离实用还远，别拿它跟正经模型比性能。但它的看点不在规模，而在把整个训练管线——LayerNorm、attention、Q/K/V、dropout、AdamW——全部手写反传，不用自动微分，不用 BLAS 加速，单核 CPU 跑通。正文没披露生成效果，也没给权重文件，所以只能当教学级实现来看。对 AI 从业者来说，这东西像一份可运行的底层教案，把平时被框架藏起来的细节全摊开了。