LMSYS 分享他们怎么用 AI 代理加速 SGLang 开发
Agent辅助的SGLang开发:初步探索
SGLang 团队把跑分、性能剖析、CUDA 崩溃调试、接入扩散模型这些重复性开发流程,写成了代理能直接执行的 SKILL 文件。仓库里现在有调试、集成、CI 等技能,扩散模型部分另有一套。性能剖析技能会产出固定的算子耗时表、重叠机会表和融合模式表;KDA-Pilot 则自动完成 B200 算子任务的对比和正确性检查,已有三个 PR 合入主分支。
推荐理由:SGLang 团队把跑分、性能剖析、CUDA 崩溃调试等重复开发流程写成代理可执行的 SKILL 文件,并公开了调试、集成、CI 等技能的组织方式。