Together AI 提出 Polymorphic Inference:面向开源模型的自调优推理
Together AI 提出 Polymorphic Inference,用 AI 智能体自动调优其端点上开源模型的推理,称其为全球首个生产级递归自我改进(RSI)推理系统。该方案通过 Continuous Compilation 持续自优化,应对 OpenRouter 上 80% 流量流向近三个月发布新模型、排名前十开源模型架构各异的快速变化。目前已有 40+ 模型入选其生产体系。
Together AI 提出 Polymorphic Inference,用 AI 智能体自动调优其端点上开源模型的推理,称其为全球首个生产级递归自我改进(RSI)推理系统。该方案通过 Continuous Compilation 持续自优化,应对 OpenRouter 上 80% 流量流向近三个月发布新模型、排名前十开源模型架构各异的快速变化。目前已有 40+ 模型入选其生产体系。
中国科学技术大学团队在Nature发表结构引导RNA基础模型structRFM,基于2100万RNA序列结构对训练,通过配对匹配操作把碱基配对信息融入掩码语言建模,并引入多源二级结构集成MUSES和动态掩码比例。
复旦大学团队提出独立扩散草稿模型 D3D,去除对目标模型隐藏状态的依赖,实现起草与验证异步并行的推测解码。D3D 以 Qwen3-8B 和 Qwen3-32B 为目标时,在七个基准上平均取得 5.00× 和 5.71× 解码加速,超过 DFlash 的 4.03× 和 3.67×,GSM8K 上最高达 7.48×。代码、模型权重与基准测试脚本已开源。
Google AI & Infrastructure 团队联合 Mercor 发布 Physical-Engineering's Last Exam(PLE)基准与公开竞赛,测试前沿模型完成机械、电气、土木和结构工程真实任务的能力。
Cohere 宣布在 Model Vault 和 Model Vault Encrypted 上线第三方模型,企业可在全托管加密推理平台上运行 Cohere 自家模型与 DeepSeek V4.1 Flash、GLM 5.3 Flash、Gemma 4、GPT-OSS、Phi 等主流开源模型。
Sarvam AI 发布基于 Sarvam 105B 的 System One 决策模型 Sarvam Prism,以 Apache 2.0 许可开放权重。在自测的 25 个决策模型中,Prism 以 71.8 的平均分和 B200 上 44 ms 的中位响应成为 100 ms 内得分最高的模型,90% 置信度下英文实际误差 2.2% 低于预测的 3.3%。
Ray 宣布成立硬件加速器特别兴趣小组(SIG),联合硬件厂商、贡献者和应用开发者制定厂商中立的加速器支持路线图。首批路线图聚焦开发测试基础设施、硬件感知能力和网络传输三大方向。Ray 目前已支持十余种加速器,包括 NVIDIA 和 AMD GPU、TPU、Trainium、Gaudi 等。
vLLM 发布 v0.33.0 版本,包含来自 389 位贡献者的 927 个提交,其中 122 位为新贡献者。
推荐理由:更新日志列出了新增模型支持、推理加速数据和 CUDA 13.0 依赖变化,运维可据此评估升级对现有部署的影响。
Olmo 3 获得 Nextcloud 的最高 Ethical AI 评级(绿色),该评级要求开源训练与推理软件、可自托管的模型和公开的训练数据。Nextcloud 通过本地 LLM 后端 llm2 将 Olmo 3 7B 集成到 Assistant、Mail 等应用,模型无需高端 GPU 即可在机构自有硬件上运行。
OpenRouter 发文解释开放权重与闭源权重模型的区别,并给出平台用量数据:开放权重模型占 top 50 模型 token 用量的份额从 2025 年 10 月的 27% 升至 2026 年 9 月底的 72%。
推荐理由:原文以平台一手数据对比两类模型的用量份额与价格差距,并给出按价格上限混用两类模型的可迁移路由写法。
Nathan Lambert 撰文复盘自己数周前关于开源权重模型网络风险的判断,认为大体仍然成立:即便 Claude Mythos 当时以开源权重泄露,带来的也更可能是网络风险加速而非质变。
Google Cloud 汇总 10 月 AI 基础设施与编排更新,推出面向自主 AI 智能体、提供 microVM 沙箱的计算服务 Agent Compute Engine。
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,这款 1 万亿参数、原生多模态模型本月早些时候曾以公开预览形式发布,经三周强化学习后在 FrontierCode 2.0 得分 19.7%、Terminal-Bench 4.0 得分 41%,居开源权重模型首位,并在 Artificial Analysis Cyber Index 得分 51%。
推荐理由:原文给出编码与防御安全的多项基准成绩、三档推理模式与定价,可帮助开发者评估自托管开源模型的能力与成本取舍。
Meta 介绍了新一代 Meta Andromeda 个性化广告召回引擎,通过模型、系统与 GPU 硬件协同设计,吞吐量超过每秒 10 亿条广告,较 2024 年版本提升 100 倍。
Meta 在 2026 OCP 全球峰会分享支撑 Muse Wonder、Muse Spark 模型及吉瓦级 Prometheus 集群的 AI 网络创新。
Google 为生成式 UI 协议 A2UI 推出可切换推理格式,新增 A2UI Express 作为默认格式,生成同类 UI 延迟最高降 3x、token 最多省 3x,配合 TypeSafe 的 Jev 这类决策模型做布局决策时延迟最高可降 80x。
推荐理由:原文给出四种推理格式在同一评测下的对比结果,读者可按屏幕是否有固定布局,在 Express 与决策模型两条路径之间做选型。
IBM 与 PyTorch 基金会推进 Spyre 推理加速器的一等 PyTorch 后端适配,torch-spyre 编译器规模约为原先系统的七分之一,并借助 vLLM 插件提升可用性。
月之暗面发布 Kimi K3.1 Pro,称其为 K3.1 系列首款模型、迄今最强的 3T 级开放权重模型,完整权重将于 2026 年 11 月 4 日前发布。
推荐理由:除基准成绩外,原文还披露了开放权重版移除网络攻防数据的前后评测对照,可帮助读者理解发布决策背后的安全考量。
vLLM 官方宣布为 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin(含专属 Rubin 内核)与 AMD MI350 系列 GPU,并提供 NVIDIA 和 AMD 两个预构建镜像。
推荐理由:原文按 Blackwell、Rubin 和 AMD 三类硬件给出内核级加速数据与 AgentX 基准结果,推理部署选型时可对照自身场景参考。
Browser Use 官方博客刊出11款浏览器自动化工具的对比指南,将方案分为智能体、脚本库和云端浏览器三类,逐项给出能力、部署方式与定价。
推荐理由:原文按智能体、脚本和云端浏览器三类对比11款浏览器自动化工具的场景与定价,方便读者按任务类型选型。
PyTorch Conference North America 2026 于 10 月 20–21 日在圣何塞举办,吸引 3500 多名参会者,会议期间集中发布多项 PyTorch 生态更新。
Pydantic AI 新增 E2B 原生沙盒支持,智能体加上 E2BSandbox() 能力后,每条 shell 命令和文件操作都在隔离的 E2B microVM 中运行,不触及用户本机环境。
推荐理由:原文展示编码智能体命令如何在隔离沙盒中运行,并给出多轮任务间暂停恢复与进程崩溃后继续的完整示例。
Ai2 发布卫星嵌入模型 OlmoEarth v1.3,同时开放全球年度预计算嵌入向量与免登录的 Embeddings Explorer 浏览器工具。
推荐理由:原文给出27项评测对比成绩,配免登录的全球嵌入向量和浏览器工具,遥感任务从小时级微调变成秒级初探。
MiniMax 在 MiniMax Code 桌面应用中推出 Mini App,一种带前端和后端、以插件形式安装的长驻应用,可与 Agent 互相调用,让 Agent 的工作留在常驻页面而不是散落在各会话中。
推荐理由:原文讲清 Mini App 与插件的区别,是在 Agent 之上构建带前后端的常驻应用,读者可据此判断是否把任务流从聊天会话迁出。
Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),包括名称、logo、GitHub 组织和 agentskills.io 域名。
推荐理由:原文交代了捐赠范围、维护者安排和后续治理路线,读者可以据此判断这个开放标准走向社区化后的发展方式。
PyTorch 团队发布 TorchTitan 重大更新,新增对 Qwen3.5、Qwen3-VL、Kimi K2.7、Kimi K3、DeepSeek-V4、Muse Spark Open、Muse Glimmer 等开放权重模型的 5D 并行完整训练栈支持。
SemiAnalysis 发布长文,分析 9 月 30 日 DeepSeek 为 TileLang、DeepGEMM、DeepEP、FlashMLA 等 6 个仓库加入 Ascend 支持背后的华为与 DeepSeek 互补关系。
本期开源动态盘点了近一周开放权重生态的关键动向,核心是中美监管新动作与 DeepSeek 的两连发。商务部(MOFCOM)提出前沿模型国际共享前须政府事先审批的政策提案,开源技术拟设自动审批通道;美国国土安全部(DHS)则下令将 DeepSeek 及其模型排除出联邦民用采购。
Meta 发布开放权重模型 Muse Spark Open,作者称其为目前最强的美国造开放模型,此前 Meta 还推出了闭源前沿模型 Muse Wonder 与 Muse Wonder Full。
推荐理由:作者将 Meta 开源与闭源双线策略置于中美开放模型差距收窄的背景下评估,并指出复杂许可条款可能拖累模型采用。
DeepSeek 在 Hugging Face 上架 DeepSeek-V4.1-Flash-1017,定位为图像-文本到文本(image-text-to-text)模型。该模型下载量达 277323 次,获得 5392 个点赞,目前已在 HF 平台开放可用。
Reflection 首个开源权重模型 Beam 即日全面可用,并在 Ollama 云端限时免费开放,端点实现完整零数据保留(ZDR)。Beam 为 MoE 模型,总参数约 501B、每 token 激活 23B,具备 1M token 上下文窗口,采用 Apache 2.0 协议,面向软件工程、推理和长程智能体任务。
Black Forest Labs 发布 FLUX 3 家族的紧凑开放权重模型 FLUX 3 Image Klein,5.6B 参数可在单张消费级 GPU 上运行,已提供 Hugging Face 下载和 ComfyUI 模板。
推荐理由:原文附 RTX 5070 出图从 71 秒降到 8 秒内的量化实测,读者可据此评估本地消费级 GPU 跑开源图像模型的成本。
NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,以及 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 两款边缘模型,覆盖从数据中心到桌面与边缘设备的智能体部署;Super VL 与 Bolt 74B-A9B 即刻可用,Bolt E4B 定于 10 月 23 日上线。
Jack Clark 在 Import AI 第 476 期汇总多个基准与模型动态,并据 TasteVal 结果把完全递归自我改进(RSI)的预期从 2028 提前到 2027,该基准测得前沿模型实验研究品味自 2025 年 12 月起每 3.0 个月翻倍。
Comfy 博客作者介绍如何通过 agent 搜集各种优化并打包成一个自定义 Comfy 节点 ComfyStreamerH3,在单张 RTX 5090(32GB VRAM)上以 448×256 分辨率在 15 秒内生成 15 秒视频。
Nathan Lambert 撰文认为开放权重模型的网络风险讨论已经走偏,若只封禁开放模型而不禁止前沿闭源模型的公开 API,反而会扩大网络攻防差距。他批评 Anthropic 关于 GLM-5.3 作为进攻性网络工具的报告回避了跨领域问题,并指出目前有记录的网络攻击大多与闭源模型有关。
Mistral 发布 Mistral Large 4(ML4)公开预览,模型为 1 万亿参数、激活 520 亿的原生多模态架构,预览 API 已上线 Mistral Studio,开放权重定于月底放出。
推荐理由:原文给出网络安全、智能体编码和多模态的具体基准成绩与训练规模,读者可据此横向比较当前开放模型的能力水平。
SGLang 发布 v0.5.21,合并来自 227 位贡献者的 779 个 PR,新增 DeepSeek-V4.1 Flash、GigaChat 3.5、MiMo-V2.6、Ling-3.0-flash-VL、Qwen-Image 2.1、FLUX 3 Action 等模型支持。
OpenClaw 宣布将腾讯 AI-Infra-Guard(AIG)集成进开源命令行工具 ClawScan,上传到 ClawHub 的每个技能和插件都将经过 AIG 的安全审查。
facebookresearch 在 GitHub 开源 logact 项目,提出通过共享日志设计加固 AI 智能体系统。项目代码已在 GitHub 上公开提供。