vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持
vLLM 宣布为 Moonshot AI 开源模型 Kimi K3.1 Pro 提供 Day-0 支持，覆盖 NVIDIA GPU、AMD GPU、Google TPU 和 Alibaba T-Head Zhenwu PPU。
推荐理由：原文给出稀疏注意力在多类芯片上的部署方案与吞吐数据，读者可以据此评估长上下文智能体推理的硬件选型。
#开源/仓库
vLLM 官方博客精选AI 评分7474
vLLM 官方博客精选AI 评分7373 vLLM 推出对 Mistral Large 4 的 Day 0 支持
vLLM 官方宣布为 Mistral 新旗舰 MoE 原生多模态模型 Mistral Large 4 提供 Day 0 支持，FP8 与 NVFP4 权重均可通过 vllm/vllm-openai:mistral-large-4 镜像部署。
推荐理由：原文在发布支持的同时给出 FP8 与 NVFP4 的质量速度实测对比，读者可据此为不同硬件规模选择部署配置。
vLLM 官方博客精选AI 评分6666 蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming，统一支持 Turing 起的各代 NVIDIA GPU、CUDA 兼容设备 T-Head Zhenwu 810E，覆盖稠密与 MoE 的多类权重量化组合。
推荐理由：原文给出从 Turing 到 Blackwell 各代 GPU 的量化推理提速数据和 vLLM 0.29.0 的启用方式，读者可对照部署硬件评估收益。
Google Developers Blog精选AI 评分6666 Google 发布 TPU 上的 vLLM 与 SGLang 原生 PyTorch 推理引擎
Google 在 TPU 上推出基于 TorchTPU 的原生 PyTorch 推理引擎 vLLM-TorchTPU 与 SGLang-TorchTPU，分别与 Inferact 和 RadixArk 合作开发，项目已在 GitHub 开源。
推荐理由：为习惯 PyTorch 的开发者提供不经 JAX 后端直接在 TPU 上运行 vLLM 和 SGLang 的方式，并附公开基准的成本与吞吐数据。
Google Developers Blog精选AI 评分6666 Google 将 TorchTPU 集成进 TorchTitan，发布面向 Cloud TPU 的大模型训练与优化方案
Google 发布 TorchTitan TPU，借助新推出的 TorchTPU 原生后端（torch.device("tpu")），PyTorch 训练脚本只需少量设备初始化改动即可在 Cloud TPU 上训练，分支仓库为 https://github.com/google-pytorch/torchtitan/，由 Google 与 Meta 共同加入 TPU 原生执行。
推荐理由：原文给出按顺序执行的 TPU 训练优化清单，并用三个模型的案例标出每步改动换来的 MFU 或吞吐提升，便于迁移到自己的训练任务。
vLLM Releases精选AI 评分6060 vLLM 发布 v0.32.0，包含 814 项提交与多项安全修复
vLLM 发布 v0.32.0，包含 363 位贡献者的 814 项提交，新增 /v1/systemone 结构化端点和读取 checkpoint response_template 的通用 hf 工具与推理解析器。
推荐理由：本次集中改进低精度 KV cache、启动速度和 API 负载均衡，并修复多个安全问题，自行部署推理服务的读者可据此评估升级收益。
GitHub Org · deepseek-ai精选AI 评分6262 DeepSeek 开源 DeepGEMM-Ascend：面向华为昇腾 NPU 的矩阵乘法 kernel 库
DeepSeek 在 GitHub 开源 DeepGEMM-Ascend，定位为面向华为昇腾 NPU 的简洁高效矩阵乘法 kernel 库，仓库地址 https://github.com/deepseek-ai/DeepGEMM-Ascend。
推荐理由：DeepSeek 开源了面向华为昇腾 NPU 的矩阵乘法 kernel 库，做底层性能优化的读者可以直接查看源码。
vLLM Releases精选AI 评分6262 vLLM v0.30.0 发布，新增 DeepSeek-V4.1-Flash 等模型支持
vLLM 发布 v0.30.0 版本，包含来自 315 位贡献者的 762 个 commit，其中 104 人首次参与贡献。
推荐理由：这一版集中了新模型支持、启动加速与水印生成等改动，维护 vLLM 部署的团队可以对照检查升级收益和破坏性变更。
vLLM Releases精选AI 评分6262 vLLM v0.29.0 发布，Model Runner V2 成为默认运行路径
vLLM 发布 v0.29.0，Model Runner V2 成为所有模型的默认运行路径，MRV1 转为弃用并计划在 v0.32 移除。
推荐理由：原文给出 v0.29.0 变更清单，Model Runner V2 转为默认、MRV1 定于 v0.32 移除，维护部署的读者可据此安排升级。
SGLang Releases精选AI 评分6262 SGLang v0.5.19 发布，新增 beam search 与多款模型支持
SGLang 发布 v0.5.19，合入 214 位贡献者的 786 个 PR，新增 beam search（请求传 beam_width 即返回 n 条最优序列），并将统一 radix tree 设为所有模型的默认缓存。
推荐理由：版本将统一 radix tree 设为默认缓存并新增 beam search，附各硬件实测性能数字，自部署推理服务的人可据此评估升级收益。
已经到底了