LMSYS 分享他们怎么用 AI 代理加速 SGLang 开发
Agent辅助的SGLang开发:初步探索
SGLang 团队把跑分、性能剖析、CUDA 崩溃调试、接入扩散模型这些重复性开发流程,写成了代理能直接执行的 SKILL 文件。仓库里现在有调试、集成、CI 等技能,扩散模型部分另有一套。性能剖析技能会产出固定的算子耗时表、重叠机会表和融合模式表;KDA-Pilot 则自动完成 B200 算子任务的对比和正确性检查,已有三个 PR 合入主分支。他们还...
推荐理由:SGLang 把内部开发流程做成代理可执行的 SKILL 文件,KDA-Pilot 自动完成 B200 算子任务并有三个 PR 合入主分支,这是从“代理写代码”到“代理跑工程流水线”的实打实一步。对做推理部署的工程师来说,能直接对照自己的流程看哪些环节可以自动化,信息密度高、有可验证的产出,不是 PR 稿。