Cursor 发布 Agent SDK,Agent 以代码文件夹定义并评测后部署到 Cursor 或自有基础设施
Cursor 宣布 Agent SDK 正式可用,开发者可将 Agent 定义为一个代码文件夹,用 evals 测试后部署到 Cursor 或自有基础设施。
推荐理由:原文给出从初始化、评测到部署的完整命令链,开发者可以照此在本地与 CI 里跑通一个 Agent 项目。
Cursor 宣布 Agent SDK 正式可用,开发者可将 Agent 定义为一个代码文件夹,用 evals 测试后部署到 Cursor 或自有基础设施。
推荐理由:原文给出从初始化、评测到部署的完整命令链,开发者可以照此在本地与 CI 里跑通一个 Agent 项目。
Google 宣布 Coral NPU 边缘 AI 开放标准达成三项里程碑:32-bit 架构随 Milestone 4 Matrix Execution Unit 完成。
Google 在 TPU 上推出基于 TorchTPU 的原生 PyTorch 推理引擎 vLLM-TorchTPU 与 SGLang-TorchTPU,分别与 Inferact 和 RadixArk 合作开发,项目已在 GitHub 开源。
推荐理由:为习惯 PyTorch 的开发者提供不经 JAX 后端直接在 TPU 上运行 vLLM 和 SGLang 的方式,并附公开基准的成本与吞吐数据。
Google 发布 TorchTitan TPU,借助新推出的 TorchTPU 原生后端(torch.device("tpu")),PyTorch 训练脚本只需少量设备初始化改动即可在 Cloud TPU 上训练,分支仓库为 https://github.com/google-pytorch/torchtitan/,由 Google 与 Meta 共同加入 TPU 原生执行。
推荐理由:原文给出按顺序执行的 TPU 训练优化清单,并用三个模型的案例标出每步改动换来的 MFU 或吞吐提升,便于迁移到自己的训练任务。
Arm 为 Google AI Edge Model Explorer 开发支持 TOSA、VGF、PTE 格式的开源适配器,让边缘模型编译转换可可视化调试。团队借此发现 ExecuTorch Arm 后端在 NSS 模型 VGF 图中引入的多余 TRANSPOSE 算子,并用分屏视图核对 Ultralytics YOLO 模型向 Arm Ethos-U85 NPU 的委托。
SGLang 发布 v0.5.22 版本,包含来自 245 位贡献者的 950 个 PR,新增 Clef、EmbeddingGemma 2、LLaDA2.2、HunyuanImage-3.0-Instruct、Kandinsky 6、Wan-Animate-2、SANA-Video 2.0 等模型支持。
Google 发布 LiteRT Tensor API,作为 LiteRT 栈中的轻量 C++ 建图层,支持逐算子构建计算图,同一计算图可在 CPU、GPU 与 NPU 上运行,也可经 XNNPACK 无模型文件直接在 CPU 执行。
推荐理由:为需要手工控制模型的开发者提供折中路径,同一份 C++ 计算图可跑 CPU、GPU 和 NPU,免去按后端重写的工程量。
vLLM 发布 v0.32.0,包含 363 位贡献者的 814 项提交,新增 /v1/systemone 结构化端点和读取 checkpoint response_template 的通用 hf 工具与推理解析器。
推荐理由:本次集中改进低精度 KV cache、启动速度和 API 负载均衡,并修复多个安全问题,自行部署推理服务的读者可据此评估升级收益。
Replit 推出 Bring Your Own Cloud(BYOC),企业可在 Azure、Google Cloud 或 AWS 自己的云租户中运行开发与生产环境。
Pydantic 介绍 Logfire 团队 9 月 1 日起将 GitHub Actions 迁移到 RunsOn,由其在其 AWS 账户内启动临时 EC2 runner。
推荐理由:AI 让 PR 数量翻数倍后 CI 账单随之失控,作者分享了迁到 RunsOn 后成本从 18200 美元降到 5700 美元的可迁移经验。
Lovable 推出 Deploy on Azure 私有预览,企业可将应用及数据运行在自己的 Azure 订阅内,编辑器和智能体仍留在 Lovable。应用组件部署在客户订阅的专用 VNet 内的 AKS 集群,数据库采用 Azure Database for PostgreSQL,并通过 VNet peering 访问内部系统。
Apple 机器学习研究团队发布教程,演示用最新版 MLX 与 RDMA over Thunderbolt 在 Mac Studio 上本地及跨机运行大模型推理,816B 参数的 MoE 模型 Muse Spark Open 在四台 M5 Ultra 上生成速度达 36.73 tokens/s。
推荐理由:原文在同一基准下对比 M3 Ultra 与 M5 Ultra 单机及多机并行的表现,读者可据此估算在 Mac Studio 上本地运行大模型所需的机器数量与速度。
Google 官方介绍重构后的 google/adk-recipes 仓库,作为 ADK 内容的唯一来源,分为 core/(参考模式)、plugins/(符合 Agent Plugins v1.0.0 规范的可安装垂直技能)和 contrib/(五语言端到端可部署服务)三层。
Google Developers Blog 发布 AI 智能体评估实操指南,主张用可复现的评估流程取代手动 vibe check,并配套开源 agent-eval 工具包。
推荐理由:原文把智能体评估拆成 Day 0 到 Day 2 的渐进落地路径,并总结了四个常见测试陷阱,可以对照自查现有评估流程。
微软发布最新自研芯片 Maia 300,并宣布将 Azure Maia 系统扩展至多吉瓦级部署。官方页面提供 Maia 300 架构深度解析视频,Scott Guthrie、Rani Borkar、Mustafa Suleyman 等高管分别介绍全栈 AI 优势、高效推理的系统方法与芯片模型协同设计。页面同时展示 Maia 300 服务器、系统、原型芯片与板卡图片,并提供行业分析师评论等延伸资源。
Microsoft 宣布从 2027 年起将 Azure Maia 家族扩展至多吉瓦级部署,并使 Maia 成为 Microsoft 产品与服务的主要推理系统。
推荐理由:原文给出 Maia 300 每兆瓦 token 效率和机架吞吐的具体数字,读者可据此比较微软自研芯片与 GPU 方案的定位。
Comfy 博客作者介绍如何通过 agent 搜集各种优化并打包成一个自定义 Comfy 节点 ComfyStreamerH3,在单张 RTX 5090(32GB VRAM)上以 448×256 分辨率在 15 秒内生成 15 秒视频。
Anthropic 开发者博客发布教程,讲解如何用 Claude Managed Agents(beta)构建定时智能体自动化,示例按 cron 计划读取 Slack 频道和 GitHub pull requests,把每日简报推送回 Slack,参考实现代码随文提供。
推荐理由:原文把定时智能体自动化的常见故障整理成六条规则,从书签续读、失败上报到发布确认与预算上限,方法可直接迁移到自己的自动化。
Claude Code 云端会话在独立 VM 上运行,每个任务获得克隆到新分支的全新虚拟机,可从 claude.ai/code、移动端、Desktop、终端和 Slack 启动,Pro、Max、Team、Enterprise 计划无额外费用,只消耗原有用量额度。
推荐理由:作者用四个真实云会话实测了 Claude Code 云端运行与本地会话的差异,并给出七类适用工作流和 GitHub 连接排错方法,便于迁移实践。
vLLM 发布 v0.31.0,汇集 307 位贡献者的 717 次提交,FlashMLA mega attention 与 NVFP4 压缩 KV cache 成为 DeepSeek-V4.1-Flash 在 SM100 上的默认路径。
Cohere 发布迄今最大升级 North 2,把企业级安全、智能、成本治理与全栈控制统一到单一 agentic AI 平台。新版重构 agent 编排系统以支持多步自动化,内置 Skills、Libraries、Memory 与应用创建,且模型无关、可自带模型。
SGLang 发布 v0.5.21,合并来自 227 位贡献者的 779 个 PR,新增 DeepSeek-V4.1 Flash、GigaChat 3.5、MiMo-V2.6、Ling-3.0-flash-VL、Qwen-Image 2.1、FLUX 3 Action 等模型支持。
unslothai 在 GitHub 发布 audio.cpp,一个由 ggml 驱动的纯 C++ 音频模型一体化推理引擎。它支持 TTS、STT、VAD、语音转换、音乐生成等多种音频任务,主打高度优化的性能,且不依赖 Python。
DeepSeek 在 GitHub 开源 DeepGEMM-Ascend,定位为面向华为昇腾 NPU 的简洁高效矩阵乘法 kernel 库,仓库地址 https://github.com/deepseek-ai/DeepGEMM-Ascend。
推荐理由:DeepSeek 开源了面向华为昇腾 NPU 的矩阵乘法 kernel 库,做底层性能优化的读者可以直接查看源码。
OpenClaw 发布开源、厂商中立的企业级智能体平台 OpenClaw Enterprise(OCE),用于在敏感环境中管理持久化智能体,现已可克隆仓库自托管,支持 docker-compose 本地开发和 kubernetes 内部部署。
推荐理由:原文说明平台如何用多租户、硬安全边界和可替换组件让智能体进入企业环境,现阶段定位内部试点且已可自托管。
Anthropic 当天开放 Claude Sonnet 5.5,官方称其比 Sonnet 5 更聪明、更高效且快 30%,单 token 价格不变,多数任务因更省 token 总成本最多低 30%。
推荐理由:官方给出选型对照、逐条迁移清单和 effort 调参建议,从 Sonnet 5 升级的开发者可按清单直接改代码。
Cursor 推出 Rollouts 和 Security Review 两个机器人,分别监控代码部署后的健康度并在每个 pull request 上报告可利用漏洞,即日起面向 Teams 和 Enterprise 计划开放。
推荐理由:原文给出两款 bot 的监控与审查机制、报告维度和计划开放范围,团队可以据此判断是否纳入现有发版流程。
vLLM 发布 v0.30.0 版本,包含来自 315 位贡献者的 762 个 commit,其中 104 人首次参与贡献。
推荐理由:这一版集中了新模型支持、启动加速与水印生成等改动,维护 vLLM 部署的团队可以对照检查升级收益和破坏性变更。
SGLang 发布 v0.5.20,合入来自 237 位贡献者的 713 个 PR,新增 GLM-5.3-Flash、Qwen3.8-Flash-Next、K2 Horizon 等 8 个模型支持。
goose 将经典智能体循环替换为可重入状态机:持久化对话作为主状态,每类智能体行为编码为一个 Operation,按序检查、首个命中者生效,其效果持久化后从顶部重新开始。进程重启后可从最近持久化步骤继续,另一前端也能加载同一会话接续,代码更易测试与重构。模型提供商、扩展管理器与 hooks 仍是运行时依赖,外部副作用仍需谨慎处理。
Augment Code 复盘其 2025 年 11 月至 2026 年 7 月在 Augment Cosmos 上构建软件工厂的经验,覆盖 17,200 个已合并 PR。
推荐理由:Augment 复盘自家九个月的软件工厂实践,给出了产出、合并时长和回滚率的量化数据,以及按瓶颈扩展自动化的可迁移方法。
exo-explore 在 GitHub 发布 vllm-metal 项目,这是一个由社区维护的 vLLM 硬件插件,用于让 vLLM 在 Apple Silicon 上运行。该项目托管在 GitHub Org 的 exo-explore 下。
vLLM 发布 v0.29.0,Model Runner V2 成为所有模型的默认运行路径,MRV1 转为弃用并计划在 v0.32 移除。
推荐理由:原文给出 v0.29.0 变更清单,Model Runner V2 转为默认、MRV1 定于 v0.32 移除,维护部署的读者可据此安排升级。
SGLang 发布 v0.5.19,合入 214 位贡献者的 786 个 PR,新增 beam search(请求传 beam_width 即返回 n 条最优序列),并将统一 radix tree 设为所有模型的默认缓存。
推荐理由:版本将统一 radix tree 设为默认缓存并新增 beam search,附各硬件实测性能数字,自部署推理服务的人可据此评估升级收益。
Cursor 推出自托管机器(self-hosted machines)功能,智能体的工具调用可在用户自有基础设施内本地执行,代码库、构建产物和密钥全部留在内部机器。
推荐理由:原文说明了池化调度、休眠恢复与沙箱接入细节,读者可据此评估把代码和密钥留在自有内网的智能体部署方案。
vLLM 发布 v0.28.0,包含来自 270 位贡献者的 584 个提交,其中 76 位是新贡献者。
vLLM v0.27.0 发布,包含来自 242 位贡献者的 561 个 commit,其中 64 位为新贡献者。
keras-team 在 GitHub 上提供 keras-mlx 仓库,为 Keras 实现 MLX 后端。该仓库使 Keras 可在 MLX 上运行模型训练与推理。
Sarvam 汇总首届 Sarvam Epoch 活动的全部发布,覆盖整条技术栈,包括更新版 Sarvam 105B、Sarvam Vision 2.0、Saaras V4、Bulbul V4、Sarvam Inference 推理层、Indus Agent 平台、Sarvam Code 早期 beta、Sarvam Cyber、Anvaya、Kivi 与 Kaze 智能眼镜。
UC Berkeley 与 IBM Research 在演化式 kernel 搜索框架 K-Search 上新增 MLX 后端和 CUDA-to-MLX 结构化翻译层,把现有 CUDA kernel 的优化知识转化为 Apple Silicon 上的高质量 kernel。