跳到正文
Hacker News 首页

Wafer 在 AMD MI355X 上跑 Kimi K3,每块钱性能比 B300 高 45%

Running Kimi K3 on MI355X at Better Performance per Dollar Than B300

Wafer 用 8 张 AMD MI355X 显卡部署了 2.8 万亿参数的 Kimi K3 模型,单节点跑到每秒 952 个 token,每美元 GPU 时产出 48 个 token——这个性价比是 B200 的 6.8 倍,比 B300 也高出 45%。

推荐理由:Wafer 用 8 张 AMD MI355X 部署 2.8 万亿参数的 Kimi K3,单节点每秒 952 个 token,每美元 GPU 时产出 48 个 token,性价比比 B300 高 45%。

读原文 ↗导出 Markdown