# Reiner Pope 黑板讲座：大模型训练和推理背后的数学账本

> 原标题：Reiner Pope – The math behind how LLMs are trained and served

- 来源：Dwarkesh Patel 播客
- 发布时间：2026-04-29T17:07:03.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13599
- 原文：https://www.dwarkesh.com/p/reiner-pope

## 摘要

Dwarkesh 把采访间改成了黑板教室，请来芯片公司 MatX 的 CEO Reiner Pope，用公式和粉笔把大模型从训练到服务的成本结构拆了一遍。讲座从批处理大小讲起：没有批处理，服务成本会直接差出 1000 倍，这也是为什么各家 API 定价和快速模式差价巨大的根源。

## 推荐理由

MatX 的 CEO Reiner Pope 用公式和粉笔拆解大模型从训练到服务的成本结构，其中批处理对服务经济性的影响达到 1000 倍量级。

## 锐评

批处理差 1000 倍这个数，比任何 benchmark 都值得贴在墙上。同一张卡，batch 拉满和 batch 为 1，单位 token 成本差三个数量级，各家 API 的快速模式和普通模式价差那么大，就是排队和不排队的物理账。自己那些串行调用、一次只发一个请求的链路，一直在按最贵的档位付钱。

Pope 是芯片公司 CEO，讲这个有立场，账本身没毛病。想省钱先看能不能把请求攒起来，比换模型管用。
