Cerebras 用整块晶圆芯片跑 OpenAI 的 GPT-5.6 Sol,每秒吐 750 个 token
Accelerating GPT-5.6 Sol Ultrafast
Cerebras 和 OpenAI 放出了一个叫 Ultrafast 模式的新服务,目前只在小范围测试。它把 GPT-5.6 Sol 部署在 Cerebras 自家的晶圆级芯片上,推理速度最高能到每秒 750 个输出 token。在 Humanity's Last Exam 这个全是博士级难题的测试里,它跑完 2500 道题只用了 11 小时 11 分...
推荐理由:Cerebras 和 OpenAI 把 GPT-5.6 Sol 搬上晶圆级芯片,搞了个 Ultrafast 模式,推理速度拉到 750 tok/s,前沿模型第一次摸到这种实时交互的门槛。HLE 那套博士级难题跑完只用了 11 小时 11 分,给部署团队一个能直接算账的参考值。不过目前还是小范围测试,正文没披露并发数、成本结构和实际可用性,这点先别太激动。