Cerebras 如何用 59 片 WSE-3T 晶圆部署 3T 参数 Kimi K3

Cerebras Deploys Trillion-Parameter AI Models

Cerebras 披露在 WSE-3T 晶圆上部署万亿参数模型的方法：以约 3T 参数的开源模型 Kimi K3 为例，将 69 层线性注意力层与 24 层稠密层分布到 59 片晶圆，实现 1000-2000+ tokens/s 的推理速度。每片晶圆有 44 GB 片上内存，单层约 16 GB，模型权重常驻片上、仅激活值经 RDMA over Ethernet 在晶圆间传递，每跳约 2 微秒。