跳到正文
Hacker News 首页ankitvgupta

用 AI 编码智能体让 FPGA 运行 LLM:推理速度提升 33× 的实践复盘

Vibecoding an inference chip

ankitvgupta 用编码智能体在 AWS F2 FPGA 上运行 LLM,将逐位一致的完整模型基线从 6.43 tok/s 优化至 213.13 tok/s,提升 33.13×。

读原文 ↗导出 Markdown