特斯拉更新 AI 加速器路线图:SI6 算力达 HW4 的 80 倍,Dojo D3 将面向太空部署
特斯拉公布更新后的 AI 加速器路线图:第六代推理加速器 SI6 算力预计达 HW4 的 80 倍(约 17.28~46.08 POPS)、内存 144GB,预计 2029 至 2030 年推出,由三星代工至 2033 年;第五代 SI5 采用 MCM 设计,算力达 HW4 的 40 倍,由台积电 3nm 和三星 2nm 级制造。
特斯拉公布更新后的 AI 加速器路线图:第六代推理加速器 SI6 算力预计达 HW4 的 80 倍(约 17.28~46.08 POPS)、内存 144GB,预计 2029 至 2030 年推出,由三星代工至 2033 年;第五代 SI5 采用 MCM 设计,算力达 HW4 的 40 倍,由台积电 3nm 和三星 2nm 级制造。
SemiAnalysis 于 9 月实地探访远景在内蒙古乌兰察布的 Galaxy 数据中心,园区规划 800MW IT 容量,规模对标 Stargate Abilene,首期 120MW 于 2026 年 8 月交付、用时不到一年,成本约为美国的五分之一。
VoltageGPU 以从业方身份对照了十家机密计算 GPU 供应商 2026 年 11 月 7 日的官网页面,标准为客户可用自选 nonce 同时取得 CPU(Intel TDX 或 AMD SEV-SNP)与 NVIDIA GPU 的认证证据,按各家自己的文档十家中六家通过。
据路透社报道,一位业内高管透露英伟达正提供数十亿美元资金,支持日月光投控旗下封测厂矽品精密扩充 CoWoS 先进封装产能,用于新无尘厂房扩建与设备采购。背景是台积电 CoWoS 产能吃紧倒逼芯片设计厂商另寻外援,该技术将处理器、内存等多块硅片置于共享基板互联,已被英伟达、AMD、博通及各大云巨头采用。
Linkerd 背后的公司 Buoyant 开源了 Kinference,一个运行在 Kubernetes 和 vLLM 之上的推理控制平面,采用 Apache 2.0 许可,当前版本为 v0.1.0-alpha.7,用 Rust 编写。
Amazon SageMaker Inference 现已支持 GPU 分区,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 硬件隔离地划分为最多 7 个分区,使端点可承载的模型数量不再受 GPU 颗数限制。
推荐理由:原文给出各 GPU 型号的分区档位和 H100 分区对整卡 A100 的实测对比,读者可据此为模型选择合适的 GPU 部署单元。
铜价因市场担忧 AI 遭遇反弹而下跌。这种“红色金属”今年因预期 AI 数据中心需求激增而大涨,民主党在美国中期选举中大胜后,这一需求前景如今被视为面临风险。
Zyphra 开源发布 ZYFA,一套面向 AMD Instinct MI355X GPU 的 FP8/BF16 prefill attention 内核,代码采用 Apache 2.0 协议。
据彭博社报道,微软已决定不再续签与甲骨文的 AI 算力租赁协议,并开始关闭部分租用的计算资源,这是其重新评估超 800 亿美元外部云合作的一部分。报道称甲骨文服务器使用较早一代英伟达 GPU,逐渐无法满足微软变化的技术规格,甲骨文回应 AI 基础设施需求依然强劲,微软拒绝置评。
据《The Information》11 月 6 日援引两名知情人士报道,台积电正考虑进军先进内存芯片制造,并已应其最大客户英伟达的要求开始规划生产 3D DRAM,该架构通过垂直堆叠存储单元提升容量。
据 The Information 报道,电信服务商 Brightspeed 正与英伟达洽谈,计划将多座老旧电信建筑改造为小型数据中心。
摩尔线程宣布基于 MTT S5000 智算卡与 MUSA 软件栈,完成 Kimi-K3.1 Pro 模型的 Day-0 适配,打通模型加载、服务启动及文本、图片基础推理链路。
约 100 名抗议者今晨闯入 Microsoft 在阿姆斯特丹的新数据中心在建工地,行动由 Geef Tegengas 团体协助组织,抗议建造三座 85 米高的数据中心塔楼。
NVIDIA 发文称 Vera CPU 在智能体工作负载上同时实现最高吞吐与最快速度,在 100 兆瓦数据中心对比中,单颗 Vera CPU 性能超过最快的 x86 CPU 和最节能的 x86 CPU。
SemiAnalysis 公布 TPUv7 在四个前沿模型上的长上下文多轮智能体推理基准结果,称对外部客户而言 Google TPU 的性价比或领先或具竞争力。
NVIDIA 以 GPU、CPU、网络、存储与软件的全栈协同设计化解 AI 工厂的内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU HBM 容量仅增约 3%,SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30x。
Google 宣布 Cloud API Gateway 流式支持进入公开预览,流式端点可部署在网关后并保留鉴权、监控等既有安全策略。该功能支持 SSE、WebSockets 和 gRPC 等流式模式,连接最长保持 1 小时。配合 model routing,可通过单一 OpenAI 兼容端点将请求路由到 Gemini、Claude 或 OpenAI gpt-oss 模型。
Together AI 发布 Together Compiler,用智能体随生产流量变化持续重新优化推理,TPS 最高较 InferenceX 最优配置提升 2.6x。
NVIDIA 发布 CUDA 13.5,在多个主要新平台上达到正式可用(GA)。其中 NVIDIA Vera Rubin 支持从早期开发者访问进入 GA,可投入企业生产环境。
Together AI 提出 Polymorphic Inference,用 AI 智能体自动调优其端点上开源模型的推理,称其为全球首个生产级递归自我改进(RSI)推理系统。该方案通过 Continuous Compilation 持续自优化,应对 OpenRouter 上 80% 流量流向近三个月发布新模型、排名前十开源模型架构各异的快速变化。目前已有 40+ 模型入选其生产体系。
Buoyant 发布开源推理控制平面 Kinference,用 vLLM 执行底层推理,客户端把 OpenAI 或 Anthropic 兼容流量指向其 HTTP 端点即可接入。
vLLM 宣布为 Moonshot AI 开源模型 Kimi K3.1 Pro 提供 Day-0 支持,覆盖 NVIDIA GPU、AMD GPU、Google TPU 和 Alibaba T-Head Zhenwu PPU。
推荐理由:原文给出稀疏注意力在多类芯片上的部署方案与吞吐数据,读者可以据此评估长上下文智能体推理的硬件选型。
Together AI 发布 Together Compiler(TKCC),称其为首个利用高吞吐 agent 对多样推理工作负载做持续优化的编译循环,目前已在线上服务数万亿 token。
SemiAnalysis 判断 SpaceX 正以全球最快速度建设数据中心,有望成为全球最大 AI 云,SpaceX 也已将 2027 年容量预期上调至约 13GW。
乌克兰无人机打击破坏了俄罗斯Yandex、Sberbank、VKontakte及俄财政部的数据中心,干扰数百万俄罗斯用户的云服务,俄企正加紧把设施加固或转入地下。
SGLang 发布 v0.5.23,包含来自 257 名贡献者的 1007 个 PR,新增 Muse Spark Open、Beam-1.0、MiniMax-M3.1-Flash、面壁 MiniCPM-V 4.7 等 10 个模型,并通过 SGLang-TorchTPU 插件支持 Google TPU7x。
多家创业公司正尝试把 AI 算力变成可交易商品,Ornn 正推进新一轮融资,最高估值约 10 亿美元,Thrive Capital 与 General Catalyst 洽谈参投,此前 6 月获 a16z crypto 领投的 3300 万美元种子轮。
Ray 宣布成立硬件加速器特别兴趣小组(SIG),联合硬件厂商、贡献者和应用开发者制定厂商中立的加速器支持路线图。首批路线图聚焦开发测试基础设施、硬件感知能力和网络传输三大方向。Ray 目前已支持十余种加速器,包括 NVIDIA 和 AMD GPU、TPU、Trainium、Gaudi 等。
Google 与 Meta 开源 TorchTPU 项目,为 Google TPU 提供原生 PyTorch 后端,PyTorch 代码只需将 cuda 设备换成 tpu、nccl 后端换成 tpu_dist 即可迁移。
vLLM 发布 v0.33.0 版本,包含来自 389 位贡献者的 927 个提交,其中 122 位为新贡献者。
推荐理由:更新日志列出了新增模型支持、推理加速数据和 CUDA 13.0 依赖变化,运维可据此评估升级对现有部署的影响。
SemiAnalysis 分析称反数据中心浪潮已成两党共识,2027 年前 20 州 33.8 GW 待交付容量约四分之三已开工,选举真正争夺的是 2028 年 62.2 GW 美国新增容量。
Amazon CEO Andy Jassy 表示 AWS 的大块承诺云容量基本售罄至 2027 年,2026 年容量已用完,2028 年相当部分已预订,按需、EC2 与 Bedrock 仍保留余量。
Google Cloud 汇总 10 月 AI 基础设施与编排更新,推出面向自主 AI 智能体、提供 microVM 沙箱的计算服务 Agent Compute Engine。
vLLM 官方宣布为 Mistral 新旗舰 MoE 原生多模态模型 Mistral Large 4 提供 Day 0 支持,FP8 与 NVFP4 权重均可通过 vllm/vllm-openai:mistral-large-4 镜像部署。
推荐理由:原文在发布支持的同时给出 FP8 与 NVFP4 的质量速度实测对比,读者可据此为不同硬件规模选择部署配置。
太空数据中心正从设想走向实测,SpaceX 本月早些时候的一次发射同时送上了 Google 实验卫星和 Cowboy Space 的 Reason-1 卫星,前者将在轨向 Gemini 发送简单请求并测试 4 颗 TPU 在太空的表现,后者试验用激光把太阳能传回地面。
Meta 介绍了新一代 Meta Andromeda 个性化广告召回引擎,通过模型、系统与 GPU 硬件协同设计,吞吐量超过每秒 10 亿条广告,较 2024 年版本提升 100 倍。
Google 宣布 LiteRT 在 Google Play services 中获得重大升级,GPU 推理由开源引擎 ML Drift 驱动、比旧版 GPU delegate 快约 1.4x,应用改用后可减小约 8 MB。
Together AI 详解 Together GPU Clusters 自动修复系统:健康检查持续监测每个节点,故障时推荐最轻量修复动作并附证据。用户可按单个 Xid 代码设置自动执行或人工审批,修复流程分检测、决策、修复、复验四步。被动健康检查、修复建议、自动修复策略现已正式可用,节点标签修复合约处于 Preview。
Meta 在 2026 OCP 全球峰会分享支撑 Muse Wonder、Muse Spark 模型及吉瓦级 Prometheus 集群的 AI 网络创新。
IBM 与 PyTorch 基金会推进 Spyre 推理加速器的一等 PyTorch 后端适配,torch-spyre 编译器规模约为原先系统的七分之一,并借助 vLLM 插件提升可用性。