跳到正文
GitHub Org · ai21labs· AI21Labs·· 2025-12-24AI 评分50

AI21 Labs 发布 auto-tuning-vllm:vLLM + GuideLLM + Optuna 自动调优 LLM 部署性能

AI21Labs/auto-tuning-vllm

AI 导读

AI21 Labs 在 GitHub 发布 auto-tuning-vllm,用于自动调优 vLLM 的 LLM 部署性能。该项目组合 vLLM、GuideLLM 与 Optuna 三个工具,帮助用户获得 LLM 部署的最佳性能。

来源:GitHub Org · ai21labs · github.com