微软发布自研芯片 Maia 300,Azure Maia 系统将扩展至多吉瓦级部署
微软发布最新自研芯片 Maia 300,并宣布将 Azure Maia 系统扩展至多吉瓦级部署。官方页面提供 Maia 300 架构深度解析视频,Scott Guthrie、Rani Borkar、Mustafa Suleyman 等高管分别介绍全栈 AI 优势、高效推理的系统方法与芯片模型协同设计。页面同时展示 Maia 300 服务器、系统、原型芯片与板卡图片,并提供行业分析师评论等延伸资源。
微软发布最新自研芯片 Maia 300,并宣布将 Azure Maia 系统扩展至多吉瓦级部署。官方页面提供 Maia 300 架构深度解析视频,Scott Guthrie、Rani Borkar、Mustafa Suleyman 等高管分别介绍全栈 AI 优势、高效推理的系统方法与芯片模型协同设计。页面同时展示 Maia 300 服务器、系统、原型芯片与板卡图片,并提供行业分析师评论等延伸资源。
Microsoft 宣布从 2027 年起将 Azure Maia 家族扩展至多吉瓦级部署,并使 Maia 成为 Microsoft 产品与服务的主要推理系统。
推荐理由:原文给出 Maia 300 每兆瓦 token 效率和机架吞吐的具体数字,读者可据此比较微软自研芯片与 GPU 方案的定位。
Cloudflare 发布开源权重决策模型 Clef-omni,单次 API 调用即可直接处理音频、视频、图像和文本输入,无需级联的语音转文字管线。该模型基于 Qwen3-Omni-30B-A3B-Instruct MoE 底座,冻结骨干训练 LoRA,文本决策中位延迟约 130 ms,21 秒带声音视频约 1.5 秒完成评分。
Comfy 博客作者介绍如何通过 agent 搜集各种优化并打包成一个自定义 Comfy 节点 ComfyStreamerH3,在单张 RTX 5090(32GB VRAM)上以 448×256 分辨率在 15 秒内生成 15 秒视频。
Anthropic 开发者博客发布教程,讲解如何用 Claude Managed Agents(beta)构建定时智能体自动化,示例按 cron 计划读取 Slack 频道和 GitHub pull requests,把每日简报推送回 Slack,参考实现代码随文提供。
推荐理由:原文把定时智能体自动化的常见故障整理成六条规则,从书签续读、失败上报到发布确认与预算上限,方法可直接迁移到自己的自动化。
Claude Code 云端会话在独立 VM 上运行,每个任务获得克隆到新分支的全新虚拟机,可从 claude.ai/code、移动端、Desktop、终端和 Slack 启动,Pro、Max、Team、Enterprise 计划无额外费用,只消耗原有用量额度。
推荐理由:作者用四个真实云会话实测了 Claude Code 云端运行与本地会话的差异,并给出七类适用工作流和 GitHub 连接排错方法,便于迁移实践。
Together AI 联合 IBM 与 NVIDIA 扩展企业级 AI 推理,在 IBM Cloud 部署配备 Spectrum-X 以太网网络的 NVIDIA B300 GPU 专用推理集群。这是 IBM Cloud 上首个此类专用大规模推理集群,Together AI 为首个客户并负责运营推理层。Together AI 目前每月为超 100 万开发者服务数百万亿 token。
vLLM 发布 v0.31.0,汇集 307 位贡献者的 717 次提交,FlashMLA mega attention 与 NVFP4 压缩 KV cache 成为 DeepSeek-V4.1-Flash 在 SM100 上的默认路径。
Cohere 发布迄今最大升级 North 2,把企业级安全、智能、成本治理与全栈控制统一到单一 agentic AI 平台。新版重构 agent 编排系统以支持多步自动化,内置 Skills、Libraries、Memory 与应用创建,且模型无关、可自带模型。
Epoch AI 依据 2025 至 2027 年 HBM 出货量估算,未来两年的算力用当前最强模型可支撑数千万至数亿个持续运行的 AI 智能体,用更高效模型则可达数十亿个。
SGLang 发布 v0.5.21,合并来自 227 位贡献者的 779 个 PR,新增 DeepSeek-V4.1 Flash、GigaChat 3.5、MiMo-V2.6、Ling-3.0-flash-VL、Qwen-Image 2.1、FLUX 3 Action 等模型支持。
unslothai 在 GitHub 发布 audio.cpp,一个由 ggml 驱动的纯 C++ 音频模型一体化推理引擎。它支持 TTS、STT、VAD、语音转换、音乐生成等多种音频任务,主打高度优化的性能,且不依赖 Python。
DeepSeek 在 GitHub 开源 DeepGEMM-Ascend,定位为面向华为昇腾 NPU 的简洁高效矩阵乘法 kernel 库,仓库地址 https://github.com/deepseek-ai/DeepGEMM-Ascend。
推荐理由:DeepSeek 开源了面向华为昇腾 NPU 的矩阵乘法 kernel 库,做底层性能优化的读者可以直接查看源码。
Ollama 发布 0.35 版本,新增基于 TypeSafe Jev API 的决策模型支持,通过新的 /v1/systemone 端点以一次请求回答一组命名问题,适合工单分诊、模型路由和内容或安全审核等需要快速决策的任务。
OpenClaw 发布开源、厂商中立的企业级智能体平台 OpenClaw Enterprise(OCE),用于在敏感环境中管理持久化智能体,现已可克隆仓库自托管,支持 docker-compose 本地开发和 kubernetes 内部部署。
推荐理由:原文说明平台如何用多租户、硬安全边界和可替换组件让智能体进入企业环境,现阶段定位内部试点且已可自托管。
Anthropic 当天开放 Claude Sonnet 5.5,官方称其比 Sonnet 5 更聪明、更高效且快 30%,单 token 价格不变,多数任务因更省 token 总成本最多低 30%。
推荐理由:官方给出选型对照、逐条迁移清单和 effort 调参建议,从 Sonnet 5 升级的开发者可按清单直接改代码。
原文摘录:Page content Threshold signature schemes, a form of multi-party computation (MPC) that lets a set of parties sign together without any one of them holding the key, are increasingly deployed inside trusted execution environments (TEEs). … If you’re deploying MPC on TEEs, our cryptography team reviews these exact systems, so get in touch
Together AI 发布教程,演示如何在 Qwen3.5 4B 基础上微调一个 Jev 式分类模型,并已在其 serverless 平台推出 together/Tev1-4B-experimental。
Cursor 推出 Rollouts 和 Security Review 两个机器人,分别监控代码部署后的健康度并在每个 pull request 上报告可利用漏洞,即日起面向 Teams 和 Enterprise 计划开放。
推荐理由:原文给出两款 bot 的监控与审查机制、报告维度和计划开放范围,团队可以据此判断是否纳入现有发版流程。
vLLM 发布 v0.30.0 版本,包含来自 315 位贡献者的 762 个 commit,其中 104 人首次参与贡献。
推荐理由:这一版集中了新模型支持、启动加速与水印生成等改动,维护 vLLM 部署的团队可以对照检查升级收益和破坏性变更。
SGLang 发布 v0.5.20,合入来自 237 位贡献者的 713 个 PR,新增 GLM-5.3-Flash、Qwen3.8-Flash-Next、K2 Horizon 等 8 个模型支持。
goose 将经典智能体循环替换为可重入状态机:持久化对话作为主状态,每类智能体行为编码为一个 Operation,按序检查、首个命中者生效,其效果持久化后从顶部重新开始。进程重启后可从最近持久化步骤继续,另一前端也能加载同一会话接续,代码更易测试与重构。模型提供商、扩展管理器与 hooks 仍是运行时依赖,外部副作用仍需谨慎处理。
Augment Code 复盘其 2025 年 11 月至 2026 年 7 月在 Augment Cosmos 上构建软件工厂的经验,覆盖 17,200 个已合并 PR。
推荐理由:Augment 复盘自家九个月的软件工厂实践,给出了产出、合并时长和回滚率的量化数据,以及按瓶颈扩展自动化的可迁移方法。
exo-explore 在 GitHub 发布 vllm-metal 项目,这是一个由社区维护的 vLLM 硬件插件,用于让 vLLM 在 Apple Silicon 上运行。该项目托管在 GitHub Org 的 exo-explore 下。
vLLM 发布 v0.29.0,Model Runner V2 成为所有模型的默认运行路径,MRV1 转为弃用并计划在 v0.32 移除。
推荐理由:原文给出 v0.29.0 变更清单,Model Runner V2 转为默认、MRV1 定于 v0.32 移除,维护部署的读者可据此安排升级。
SGLang 发布 v0.5.19,合入 214 位贡献者的 786 个 PR,新增 beam search(请求传 beam_width 即返回 n 条最优序列),并将统一 radix tree 设为所有模型的默认缓存。
推荐理由:版本将统一 radix tree 设为默认缓存并新增 beam search,附各硬件实测性能数字,自部署推理服务的人可据此评估升级收益。
Cursor 推出自托管机器(self-hosted machines)功能,智能体的工具调用可在用户自有基础设施内本地执行,代码库、构建产物和密钥全部留在内部机器。
推荐理由:原文说明了池化调度、休眠恢复与沙箱接入细节,读者可据此评估把代码和密钥留在自有内网的智能体部署方案。
vLLM 发布 v0.28.0,包含来自 270 位贡献者的 584 个提交,其中 76 位是新贡献者。
Ollama 宣布开发者可将 Claude Desktop 配置为通过 Ollama 作为第三方网关,在 Claude 中使用本地和 Ollama 云端的开放模型。在 Ollama 中开启 Claude 即自动完成网关配置,关闭后可恢复原有设置,也可随时切换回 Anthropic 模型。FAQ 说明遥测默认禁用,并在所有模型与服务中执行 Zero Data Retention 政策。
Sebastian Raschka 发布教程,从零构建一个输出 0-100 分的 AI 文本检测器,借此讲解此类检测器的工作原理,思路类似据其所知支撑 Substack AI 检测功能的 Pangram 模型。
vLLM v0.27.0 发布,包含来自 242 位贡献者的 561 个 commit,其中 64 位为新贡献者。
keras-team 在 GitHub 上提供 keras-mlx 仓库,为 Keras 实现 MLX 后端。该仓库使 Keras 可在 MLX 上运行模型训练与推理。
Sarvam 汇总首届 Sarvam Epoch 活动的全部发布,覆盖整条技术栈,包括更新版 Sarvam 105B、Sarvam Vision 2.0、Saaras V4、Bulbul V4、Sarvam Inference 推理层、Indus Agent 平台、Sarvam Code 早期 beta、Sarvam Cyber、Anvaya、Kivi 与 Kaze 智能眼镜。
安全研究员 Johann Rehberger 发布研究,演示仅凭 LiteLLM 代理管理凭证即可调用 /model/update 把 api_base 指向攻击者网关并开启 use_litellm_proxy,将全部 LLM 流量重路由后捕获网关解析出的后端厂商密钥。
UC Berkeley 与 IBM Research 在演化式 kernel 搜索框架 K-Search 上新增 MLX 后端和 CUDA-to-MLX 结构化翻译层,把现有 CUDA kernel 的优化知识转化为 Apple Silicon 上的高质量 kernel。
vLLM 发布 v0.26.0,收录 212 位贡献者的 411 个 commits,含 61 位新贡献者。该版本为 Inkling 模型家族提供完整支持栈,包括 MTP=1 speculative decoding、LoRA 与 ModelOpt NVFP4 量化等。DeepSeek-V4 性能跨厂商优化,专用路由 kernel 实现 2.94% E2E TPOT 改善。
Meta 开源视觉模型 DINOv3 和 SAM 正被匹兹堡大学用于残障人士辅助机器人平台 RAMMP,该项目获 ARPA-H 最高 $41.5 million 资助。模型经优化部署在电池供电的边缘设备上,可查询机器人图像传感器识别自动门按钮、水杯、路缘/地面以辅助导航。该功能已集成进首个原型、准备实测,语音与触控输入正在开发。
Lilian Weng 在博客发布长文,把 harness 定义为围绕基础模型编排执行、工具调用、上下文管理与结果评估的系统,并系统梳理 harness 工程对递归自改进(RSI)的作用。
unslothai 的 stable-diffusion.cpp 仓库以纯 C/C++ 实现扩散模型推理,支持 SD、Flux、Wan、Qwen Image、Z-Image 等模型。
Sebastian Raschka 分享长篇教程,演示用 Ollama 服务 Qwen3.6 35B-A3B 等开放权重模型,在本地搭建编码智能体并接入 Qwen Code、Codex 和 Claude Code 三种框架。