# 推理算力到了爆发点：CPU 不够用，GPU 也在被拆着用

> 原标题：[AINews] The Inference Inflection

- 来源：Latent Space
- 发布时间：2026-04-30T01:42:51.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13575
- 原文：https://www.latent.space/p/ainews-the-inference-inflection

## 摘要

Latent Space 这期把近期几条线索串了起来：AI 的推理（inference）需求正在急剧膨胀。黄仁勋在 GTC 上说，过去两年单次任务的算力消耗涨了约 1 万倍，总用量涨了约 100 倍，他管这叫“推理拐点”。

## 推荐理由

黄仁勋在 GTC 给出单次任务算力两年涨约 1 万倍、总用量涨约 100 倍的数据，Latent Space 由此串起推理需求膨胀与 CPU 沙箱、智能体调度等实际负载的关联。

## 锐评

单次任务算力涨一万倍这个数，比总用量涨一百倍更值得琢磨。总量涨一百倍还能靠堆卡扛，单次涨一万倍说明每个请求内部在反复调工具、重试、跑长 context，这种负载多买 GPU 也摊不平。黄仁勋在 GTC 上喊拐点，一半是给自家卡找需求，方向没说错。按固定并发做容量规划的团队要难受了，按 token 数估的账会全错。
