跳到正文
Hacker News 首页

一个把 GPT-2 拆开揉碎、让你一步步看 Transformer 内部怎么算的可交互网页

Transformers Explained Visually

Transformer Explainer 是一个可视化交互工具,用 GPT-2(small,1.24 亿参数)逐步展示文本生成 Transformer 的内部计算。

推荐理由:Polo Club 把 GPT-2 的嵌入、注意力与输出概率做成了可交互页面,读者能一步步看清每个 token 在模型内部如何被计算。

读原文 ↗导出 Markdown