# TrnRT：面向 AWS Trainium 的开源 LLM 推理引擎

> 原标题：Show HN: TrnRT – An open-source LLM inference engine for AWS Trainium

- 来源：Hacker News 首页
- 发布时间：2026-11-17T16:01:04.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/ttvq8iuvumcmqhyas46d7yaja
- 原文：https://github.com/RunanywhereAI/trnrt

## 摘要

TrnRT 是面向 AWS Trainium 的开源 LLM 推理引擎，可在单台 trn2.48xlarge 上提供 OpenAI 兼容 API，首个支持的模型为 GLM-5.3-Flash（320B MoE、18B 激活、FP8、1M-token 上下文）。
