跳到正文
AI HOT · 产品

llm-d 1.0 发布,Kubernetes 原生分布式推理服务走向生产就绪

llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

llm-d 项目贡献者在 PyTorch Conference North America 宣布发布 llm-d 1.0,强化生产环境中的多租户服务质量、零停机运维和智能体感知服务。

读原文 ↗导出 Markdown