跳到正文
SGLang Releases·· 2026-09-05精选AI 评分62

SGLang v0.5.19 发布,新增 beam search 与多款模型支持

v0.5.19

AI 导读

SGLang 发布 v0.5.19,合入 214 位贡献者的 786 个 PR,新增 beam search(请求传 beam_width 即返回 n 条最优序列),并将统一 radix tree 设为所有模型的默认缓存。

推荐理由

版本将统一 radix tree 设为默认缓存并新增 beam search,附各硬件实测性能数字,自部署推理服务的人可据此评估升级收益。

来源:SGLang Releases · github.com