跳到正文
vLLM Releases·· 6 天前精选AI 评分61

vLLM v0.33.0 发布:升级 PyTorch 2.14 并支持多款新模型

v0.33.0

AI 导读

vLLM 发布 v0.33.0 版本,包含来自 389 位贡献者的 927 个提交,其中 122 位为新贡献者。

推荐理由

更新日志列出了新增模型支持、推理加速数据和 CUDA 13.0 依赖变化,运维可据此评估升级对现有部署的影响。

来源:vLLM Releases · github.com