vLLM 完成 CUDA 构建的 LibTorch Stable ABI 迁移,升级 PyTorch 无需重建
vLLM 官方宣布其 CUDA 构建已整体迁移到 LibTorch Stable ABI,自 v0.33.0 起发布 ABI 稳定的 CUDA wheel,更换 PyTorch 轮子后无需重建或更新 vLLM 即可继续使用。
vLLM 官方宣布其 CUDA 构建已整体迁移到 LibTorch Stable ABI,自 v0.33.0 起发布 ABI 稳定的 CUDA wheel,更换 PyTorch 轮子后无需重建或更新 vLLM 即可继续使用。
Databricks 撰文详解 Delta Sharing 如何在 2026 年 6 月演进为 Linux Foundation 治理的开放协议 OpenSharing,用于零拷贝共享数据与 AI 资产。
Apache Spark 4.3 正式发布,现已可在 Databricks Runtime 19 中使用。Real-Time Mode 新增流式聚合、去重和 transformWithState 有状态处理,三项代表性基准的 P99 端到端延迟分别为 136 ms、139 ms、141 ms,均低于 150 ms。
Gradium 在 Hugging Face 博客回顾两周前开源的端侧文本转语音模型 Phonon,无需服务器和网络即可运行。模型有约 65 MB 和 75 MB 两个版本,支持英语、法语、德语、西班牙语和葡萄牙语,内置超过 100 种声音,其中 Phonon 31m 采用 Apache 2.0 许可可商用。
推荐理由:官方详解 Phonon 端侧 TTS 的架构、许可与排行榜表现,可帮助读者评估小模型离线语音方案的适用性。
Databricks 一线工程师撰文提出企业重估单一前沿模型供应商策略的七大压力,主张开放权重模型已能以更低成本达到与顶级前沿模型相当的基准表现,并带来数据主权与运营自主。
推荐理由:文中七条来自企业部署一线的观察,解释了单一前沿模型策略为何被重估,以及开放权重模型的成本与治理权衡。
Ai2 宣布启动新的气候建模计划,将开发开源气候模型 NeuralGCM+,项目获 Google.org 数百万美元、为期三年的资助及 Google Research 技术支持。
中国科学技术大学团队在Nature发表结构引导RNA基础模型structRFM,基于2100万RNA序列结构对训练,通过配对匹配操作把碱基配对信息融入掩码语言建模,并引入多源二级结构集成MUSES和动态掩码比例。
Cohere 宣布在 Model Vault 和 Model Vault Encrypted 上线第三方模型,企业可在全托管加密推理平台上运行 Cohere 自家模型与 DeepSeek V4.1 Flash、GLM 5.3 Flash、Gemma 4、GPT-OSS、Phi 等主流开源模型。
Sarvam AI 发布基于 Sarvam 105B 的 System One 决策模型 Sarvam Prism,以 Apache 2.0 许可开放权重。在自测的 25 个决策模型中,Prism 以 71.8 的平均分和 B200 上 44 ms 的中位响应成为 100 ms 内得分最高的模型,90% 置信度下英文实际误差 2.2% 低于预测的 3.3%。
Ray 宣布成立硬件加速器特别兴趣小组(SIG),联合硬件厂商、贡献者和应用开发者制定厂商中立的加速器支持路线图。首批路线图聚焦开发测试基础设施、硬件感知能力和网络传输三大方向。Ray 目前已支持十余种加速器,包括 NVIDIA 和 AMD GPU、TPU、Trainium、Gaudi 等。
vLLM 发布 v0.33.0 版本,包含来自 389 位贡献者的 927 个提交,其中 122 位为新贡献者。
推荐理由:更新日志列出了新增模型支持、推理加速数据和 CUDA 13.0 依赖变化,运维可据此评估升级对现有部署的影响。
Olmo 3 获得 Nextcloud 的最高 Ethical AI 评级(绿色),该评级要求开源训练与推理软件、可自托管的模型和公开的训练数据。Nextcloud 通过本地 LLM 后端 llm2 将 Olmo 3 7B 集成到 Assistant、Mail 等应用,模型无需高端 GPU 即可在机构自有硬件上运行。
OpenRouter 发文解释开放权重与闭源权重模型的区别,并给出平台用量数据:开放权重模型占 top 50 模型 token 用量的份额从 2025 年 10 月的 27% 升至 2026 年 9 月底的 72%。
推荐理由:原文以平台一手数据对比两类模型的用量份额与价格差距,并给出按价格上限混用两类模型的可迁移路由写法。
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,这款 1 万亿参数、原生多模态模型本月早些时候曾以公开预览形式发布,经三周强化学习后在 FrontierCode 2.0 得分 19.7%、Terminal-Bench 4.0 得分 41%,居开源权重模型首位,并在 Artificial Analysis Cyber Index 得分 51%。
推荐理由:原文给出编码与防御安全的多项基准成绩、三档推理模式与定价,可帮助开发者评估自托管开源模型的能力与成本取舍。
Google 为生成式 UI 协议 A2UI 推出可切换推理格式,新增 A2UI Express 作为默认格式,生成同类 UI 延迟最高降 3x、token 最多省 3x,配合 TypeSafe 的 Jev 这类决策模型做布局决策时延迟最高可降 80x。
推荐理由:原文给出四种推理格式在同一评测下的对比结果,读者可按屏幕是否有固定布局,在 Express 与决策模型两条路径之间做选型。
IBM 与 PyTorch 基金会推进 Spyre 推理加速器的一等 PyTorch 后端适配,torch-spyre 编译器规模约为原先系统的七分之一,并借助 vLLM 插件提升可用性。
月之暗面发布 Kimi K3.1 Pro,称其为 K3.1 系列首款模型、迄今最强的 3T 级开放权重模型,完整权重将于 2026 年 11 月 4 日前发布。
推荐理由:除基准成绩外,原文还披露了开放权重版移除网络攻防数据的前后评测对照,可帮助读者理解发布决策背后的安全考量。
vLLM 官方宣布为 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin(含专属 Rubin 内核)与 AMD MI350 系列 GPU,并提供 NVIDIA 和 AMD 两个预构建镜像。
推荐理由:原文按 Blackwell、Rubin 和 AMD 三类硬件给出内核级加速数据与 AgentX 基准结果,推理部署选型时可对照自身场景参考。
Browser Use 官方博客刊出11款浏览器自动化工具的对比指南,将方案分为智能体、脚本库和云端浏览器三类,逐项给出能力、部署方式与定价。
推荐理由:原文按智能体、脚本和云端浏览器三类对比11款浏览器自动化工具的场景与定价,方便读者按任务类型选型。
PyTorch Conference North America 2026 于 10 月 20–21 日在圣何塞举办,吸引 3500 多名参会者,会议期间集中发布多项 PyTorch 生态更新。
Pydantic AI 新增 E2B 原生沙盒支持,智能体加上 E2BSandbox() 能力后,每条 shell 命令和文件操作都在隔离的 E2B microVM 中运行,不触及用户本机环境。
推荐理由:原文展示编码智能体命令如何在隔离沙盒中运行,并给出多轮任务间暂停恢复与进程崩溃后继续的完整示例。
Ai2 发布卫星嵌入模型 OlmoEarth v1.3,同时开放全球年度预计算嵌入向量与免登录的 Embeddings Explorer 浏览器工具。
推荐理由:原文给出27项评测对比成绩,配免登录的全球嵌入向量和浏览器工具,遥感任务从小时级微调变成秒级初探。
MiniMax 在 MiniMax Code 桌面应用中推出 Mini App,一种带前端和后端、以插件形式安装的长驻应用,可与 Agent 互相调用,让 Agent 的工作留在常驻页面而不是散落在各会话中。
推荐理由:原文讲清 Mini App 与插件的区别,是在 Agent 之上构建带前后端的常驻应用,读者可据此判断是否把任务流从聊天会话迁出。
Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),包括名称、logo、GitHub 组织和 agentskills.io 域名。
推荐理由:原文交代了捐赠范围、维护者安排和后续治理路线,读者可以据此判断这个开放标准走向社区化后的发展方式。
PyTorch 团队发布 TorchTitan 重大更新,新增对 Qwen3.5、Qwen3-VL、Kimi K2.7、Kimi K3、DeepSeek-V4、Muse Spark Open、Muse Glimmer 等开放权重模型的 5D 并行完整训练栈支持。
Black Forest Labs 发布 FLUX 3 家族的紧凑开放权重模型 FLUX 3 Image Klein,5.6B 参数可在单张消费级 GPU 上运行,已提供 Hugging Face 下载和 ComfyUI 模板。
推荐理由:原文附 RTX 5070 出图从 71 秒降到 8 秒内的量化实测,读者可据此评估本地消费级 GPU 跑开源图像模型的成本。
Comfy 博客作者介绍如何通过 agent 搜集各种优化并打包成一个自定义 Comfy 节点 ComfyStreamerH3,在单张 RTX 5090(32GB VRAM)上以 448×256 分辨率在 15 秒内生成 15 秒视频。
Mistral 发布 Mistral Large 4(ML4)公开预览,模型为 1 万亿参数、激活 520 亿的原生多模态架构,预览 API 已上线 Mistral Studio,开放权重定于月底放出。
推荐理由:原文给出网络安全、智能体编码和多模态的具体基准成绩与训练规模,读者可据此横向比较当前开放模型的能力水平。
SGLang 发布 v0.5.21,合并来自 227 位贡献者的 779 个 PR,新增 DeepSeek-V4.1 Flash、GigaChat 3.5、MiMo-V2.6、Ling-3.0-flash-VL、Qwen-Image 2.1、FLUX 3 Action 等模型支持。
OpenClaw 宣布将腾讯 AI-Infra-Guard(AIG)集成进开源命令行工具 ClawScan,上传到 ClawHub 的每个技能和插件都将经过 AIG 的安全审查。
facebookresearch 在 GitHub 开源 logact 项目,提出通过共享日志设计加固 AI 智能体系统。项目代码已在 GitHub 上公开提供。
微软推出 Autopilot 预览版并开始向首批客户推送,这是一个基于 OpenClaw 构建的持久、主动的个人智能体,属于新 Copilot 体验的一部分,本月底扩大至 private preview;Autopilot 是今年早些时候公布的 Microsoft Scout 的新名称。
vLLM 发布 v0.30.0 版本,包含来自 315 位贡献者的 762 个 commit,其中 104 人首次参与贡献。
推荐理由:这一版集中了新模型支持、启动加速与水印生成等改动,维护 vLLM 部署的团队可以对照检查升级收益和破坏性变更。
OpenClaw 宣布引入决策模型支持,让智能体的工具筛选、上下文压缩、是否插话等小判断由单独配置的快速模型处理,而不必调用聊天模型。插件通过 Plugin SDK 的 api.runtime.decisions.evaluate 接口调用所配置的决策模型,适配器支持 TypeSafe 托管的 Jev 和本地 System One 服务器 Kev。
TencentARC 在 arXiv'26 发布 GAE(Geometric AutoEncoder)论文,提出学习几何原生潜空间以实现 3D 一致的世界生成。项目 GitHub 仓库为 TencentARC/GAE-GeometricAutoEncoder。
SGLang 发布 v0.5.19,合入 214 位贡献者的 786 个 PR,新增 beam search(请求传 beam_width 即返回 n 条最优序列),并将统一 radix tree 设为所有模型的默认缓存。
推荐理由:版本将统一 radix tree 设为默认缓存并新增 beam search,附各硬件实测性能数字,自部署推理服务的人可据此评估升级收益。
MiniMax 发布新一代开源权重音乐生成模型 Music 3.0,输入创作构思与可选歌词即可一次生成最长五分钟的完整歌曲。模型由基于 Qwen3.5-8B 初始化的 8B 全局 LLM 与 0.6B 局部 LLM 组成 Hybrid-LM,配合八层 RVQ、2.4B flow-matching 模块和 123M Flow-VAE 完成音频渲染。
推荐理由:原文给出 Hybrid-LM、RVQ 与 Flow-VAE 的完整架构拆解,读者可了解五分钟整曲生成如何兼顾结构与音质。
Microsoft Research 与 Paige 联合开发病理学基础模型 PRISM2,以组织图像配对真实病理报告的语言进行训练,研究已发表于 Nature Medicine。在前列腺癌、乳腺癌和乳腺淋巴结转移检测等基准任务上,该模型匹配或超越专用癌症检测系统,且无需为每项任务单独建模。完整模型权重已在 Hugging Face 公开,供研究使用。
MiniMax 发布通用多模态生成模型 H3,可统一理解文本、图像、视频和音频上下文,生成最长 15 秒的 2K 分辨率视频并带原生立体声。官方称早期测试显示其已可胜任广告、电商、游戏等商业内容创作,2K 下每秒价格不到主流模型的三分之一,并计划在符合法规的前提下于近日开源模型权重。
推荐理由:原文给出与主流模型的价格对比和开源权重计划,读者可以据此评估它在商业视频内容生产中的成本空间。
Thinking Machines Lab 发布框架文章,论证开源权重模型的安全开放取决于模型本身与其所处生态两方面。文中说明其 Inkling 和 Inkling-Small 经内部评测、四家外部红队测试和对抗微调研究后,判断发布不会带来超出既有开源权重模型的实质性增量风险。
推荐理由:Thinking Machines 提出分阶段安全开放权重的框架,结合自家 Inkling 评测过程说明证据如何驱动逐步开放。