跳到正文
热点事件观察中

Cerebras分离式推理投入生产

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

11月18日,Hacker News 首页报道,Cerebras 已将分离式推理方案投入生产。该方案将推理任务分配给不同硬件:由 AMD Instinct GPUs 处理提示词,再由 Cerebras CS-3 生成响应。报道指出,这一配置在保持 token 生成速度的同时,实现了纯 CS-3 配置每兆瓦吞吐量的5倍。目前披露的进展集中于方案已投入生产、硬件分工及吞吐量表现,报道未提供此前的部署时间线。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. Hacker News 首页
    Cerebras 分离式推理投入生产,每兆瓦吞吐量提升至 5 倍

    Cerebras 已将分离式推理投入生产,由 AMD Instinct GPUs 处理提示词、CS-3 生成响应,在保持 token 生成速度的同时实现纯 CS-3 配置每兆瓦吞吐量的 5 倍。

本事件热度走势

当前热度 3·可比范围峰值 10(11月18日 10:00)·近 24 小时可比范围变化 -49%

02.557.51011月18日10:0011月19日01:0011月19日17:0011月20日08:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。