Cerebras 推理那么快,为什么公共 API 上没有 Kimi K3?
Cerebras 那么快,为什么公共 API 上没有 Kimi K3
截至10月25日,Kimi K3 仅在 Cerebras 企业专属模型目录提供,文章推测其权重常驻片上的部署需求使公共按量供给难以划算。Cerebras 技术博客的简化计算显示,权重与上下文缓存合计需要59片晶圆,但这不是已披露的实际部署配置。公开渠道尚无 Kimi K3 的第三方速度测试,模型输出提速也不直接加速文件读写和命令执行等工具调用。
Cerebras 那么快,为什么公共 API 上没有 Kimi K3
截至10月25日,Kimi K3 仅在 Cerebras 企业专属模型目录提供,文章推测其权重常驻片上的部署需求使公共按量供给难以划算。Cerebras 技术博客的简化计算显示,权重与上下文缓存合计需要59片晶圆,但这不是已披露的实际部署配置。公开渠道尚无 Kimi K3 的第三方速度测试,模型输出提速也不直接加速文件读写和命令执行等工具调用。