# 一个把 GPT-2 拆开揉碎、让你一步步看 Transformer 内部怎么算的可交互网页

> 原标题：Transformers Explained Visually

- 来源：Hacker News 首页
- 发布时间：2026-09-21T19:43:49.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57974
- 原文：https://poloclub.github.io/transformer-explainer/

## 摘要

Transformer Explainer 是一个可视化交互工具，用 GPT-2（small，1.24 亿参数）逐步展示文本生成 Transformer 的内部计算。

## 推荐理由

Polo Club 把 GPT-2 的嵌入、注意力与输出概率做成了可交互页面，读者能一步步看清每个 token 在模型内部如何被计算。

## 锐评

GPT-2 small 当教具挺好，1.24 亿参数、768 维、词表 5 万，一个浏览器里就能跑完，比拿 70B 讲原理实在。但拿它讲 attention 有个坑，现在主流模型早不是这套了，RoPE、GQA、MoE 一个都没体现，学完能看懂 2019 年的 GPT-2，看今天的模型还是懵。当入门第一课可以，别指望它解释你线上跑的东西。
