GitHub Org · ai21labs· AI21Labs·· 2025-12-24AI 评分50
AI21 Labs 发布 auto-tuning-vllm:vLLM + GuideLLM + Optuna 自动调优 LLM 部署性能
AI21Labs/auto-tuning-vllm
AI 导读
AI21 Labs 在 GitHub 发布 auto-tuning-vllm,用于自动调优 vLLM 的 LLM 部署性能。该项目组合 vLLM、GuideLLM 与 Optuna 三个工具,帮助用户获得 LLM 部署的最佳性能。
来源:GitHub Org · ai21labs · github.com