热点事件持续更新
Kimi K3在MI355X上的vLLM推理表现
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
10月16日，报道介绍了 vLLM 服务 Kimi K3 在 AMD Instinct MI355X 上的推理优化及基准表现。测试采用八卡 MI355X，在 AgentX 基准中，以 P90 每用户生成速度为 50 tokens/s 的交互性条件衡量吞吐。该配置每 GPU 吞吐约为 7,567 tokens/s；对照的 NVIDIA HGX B300 每 GPU 吞吐为 6,083 tokens/s，MI355X 高出 24.4%。报道给出了上述配置和测试条件下的性能对比，未披露具体优化步骤。
AI 根据报道生成 · 1 小时前更新
最新进展10月16日 10:09
八卡MI355X运行Kimi K3，AgentX基准每GPU吞吐较HGX B300高24.4%。报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- AI HOT · 技巧与观点vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化，单 GPU 吞吐超 NVIDIA HGX B300 24.4%
在 AgentX 基准上，八卡 AMD Instinct MI355X 用 vLLM 服务 Kimi K3，在 50 tokens/s/user P90 交互性下每 GPU 吞吐约 7,567 tokens/s，比 NVIDIA HGX B300 的 6,083 高出 24.4%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。