vLLM 完成 CUDA 构建的 LibTorch Stable ABI 迁移,升级 PyTorch 无需重建
vLLM 官方宣布其 CUDA 构建已整体迁移到 LibTorch Stable ABI,自 v0.33.0 起发布 ABI 稳定的 CUDA wheel,更换 PyTorch 轮子后无需重建或更新 vLLM 即可继续使用。
vLLM 官方宣布其 CUDA 构建已整体迁移到 LibTorch Stable ABI,自 v0.33.0 起发布 ABI 稳定的 CUDA wheel,更换 PyTorch 轮子后无需重建或更新 vLLM 即可继续使用。
AWS 博客给出可部署样例 sample-remote-coding-agent,演示把 Claude Code 从本地扩展到 Amazon Bedrock AgentCore 远程会话,每个任务在自有 AWS 账户内隔离的 microVM 会话中运行,结束时返回 GitHub pull request 供人工审核合并,智能体自身永不合并。
数字资产税务合规平台 Taxbit 详解如何基于 Amazon Bedrock AgentCore 构建内嵌其仪表盘的 AI 助手 Taxbit Assist,回答全部引用可溯源,推荐流程前先校验用户角色与权限,且模型本身不掌握身份信息。
Greenlight Financial 基于 Amazon Bedrock AgentCore 构建的自主安全运营中心(SOC)系统 Luna,每月自动处理最多 4000 起安全和风险案件,自主解决率超过 90%。
AWS 官方博客教程第二部分演示如何把 Part 1 的单智能体方案扩展为可规模化的治理架构,AgentCore Gateway 成为统一入口并兑换 Okta 的授权,Cedar 策略在工具调用前集中判定,取代复制进每台 MCP 服务器的权限检查。
AWS 团队为 Amazon 北美分拣中心(NASC)规划团队构建了部署在 Amazon ECS Fargate 上的无服务器 MCP server,作为 AI 智能体访问企业数据湖的集中式网关。
Amazon SageMaker Inference 现已支持 GPU 分区,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 硬件隔离地划分为最多 7 个分区,使端点可承载的模型数量不再受 GPU 颗数限制。
推荐理由:原文给出各 GPU 型号的分区档位和 H100 分区对整卡 A100 的实测对比,读者可据此为模型选择合适的 GPU 部署单元。
NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,通过对齐 rollout 与训练内核、再用不截断的 token 级重要性采样,实现稳定的异步强化学习。
推荐理由:论文把 rollout 与训练的差距拆成权重滞后和内核失配两部分,说明对齐内核后不加截断的重要性采样就能稳定异步训练,滞后 64 仍可学习。
OpenRouter 发布 Sentry 案例研究:Sentry 将内部 AI 用量迁移到 OpenRouter,停用了约 500 个 provider 密钥,在不限制模型选择的情况下为失控账单设置上限。
OpenClaw 用约五周和约 80 个 pull requests 重构了模型发现机制,用户无需等待客户端更新即可选用新模型。现在模型列表来自三处:每四小时重建、收录约 1000 个模型的 catalog.openclaw.ai 托管目录,账号可用的模型清单,以及 PATH 上检测到的更新版 Codex 真实握手;一次报告版本与运行版本不一致的修复已回滚。
推荐理由:原文拆解了模型发现机制的三处数据来源和一次回滚教训,读者可以借鉴其中版本一致性与降级处理的工程思路。
Browser Use 实测了 Decodo、Oxylabs、FloppyData、Roundproxies、Byteful、DataImpulse、Webshare 七家轮换住宅代理,任务覆盖商品研究、文本提取、表单填写和五分钟闲置后的会话恢复,并汇总各家入场价格(如 Decodo 无订阅 $4/1 GB、Webshare $3.50/月/1 GB)。
LangChain 宣布 Managed Deep Agents 为智能体内置浏览器,可在 LangSmith 中无需自建基础设施地构建和部署能操作网页的智能体。
推荐理由:原文给出 WebVoyager 90% 通过率与成本对比,并解释 thread 与 user 作用域及人工登录交接的设计取舍。
LangChain 团队对比七套浏览器工具集,为 Managed Deep Agents 选定 Browserbase 的 Stagehand,并用 LangSmith traces 和 evals 持续迭代优化。
推荐理由:原文示范了用 traces 定位 Agent 浪费的步骤和 token、改工具后用 evals 验证的流程,可迁移到自己的 Agent 优化。
Amazon Marketplace 用 Amazon SageMaker AI 上基于 VLM 的多模型融合方案评估商品页 A+ Content 质量。方案将整页内容渲染成单一快照交给 VLM 整体评估,把 VLM 语义评分与 OCR 可读性信号输入基于专家标注训练的 CatBoost 分类器,再用 SHAP 解释评分并生成改进建议。
Databricks 发布 Databricks Apps 扩容开发者指南,按设计、构建、测试部署和运维四个阶段讲解应用如何从少量用户扩展到数百或数千人。指南建议把重负载工作交给专用服务、用 async 代码和按用户隔离的缓存保持响应,并将必须持久化的硬状态存入 Lakebase 或 Unity Catalog 表,让任意实例都能重建会话。
Databricks 撰文详解 Delta Sharing 如何在 2026 年 6 月演进为 Linux Foundation 治理的开放协议 OpenSharing,用于零拷贝共享数据与 AI 资产。
NVIDIA 以 GPU、CPU、网络、存储与软件的全栈协同设计化解 AI 工厂的内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU HBM 容量仅增约 3%,SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30x。
微软研究院发布 PDD Kit,把开发者意图转成 Verus 形式化规范,对每个输入验证智能体所写代码,证明覆盖不到处以测试兜底。团队在 GitHub Next 的 Chopin 中用它验证了约 5,000 行 Rust 全栈应用 Pet Store 的登录逻辑,开发者只审查意图产物而未逐行阅读生成代码,pdd-ship 还会把 Verus 检查加入 CI。
推荐理由:原文展示把代码审查重心从逐行阅读转向意图规范的方法,以形式化验证和边界测试守住智能体的实现约定。
LangSmith BYOC 现已上线 AWS(GA)、Azure 和 Google Cloud(Beta),traces、评测、数据集等敏感数据留在用户自有云账户。
Apache Spark 4.3 正式发布,现已可在 Databricks Runtime 19 中使用。Real-Time Mode 新增流式聚合、去重和 transformWithState 有状态处理,三项代表性基准的 P99 端到端延迟分别为 136 ms、139 ms、141 ms,均低于 150 ms。
Cursor 推出 Build Live Apps 功能,用户描述需求后由云 Agent 自动完成搭建应用、按需创建 Postgres 数据库、配置 Cursor SSO 认证并部署,发布后得到可分享链接。
推荐理由:原文说明了从描述需求到部署上线的完整流程和安全检查机制,非工程角色也能据此判断能否用来自建内部工具。
Databricks 一线工程师撰文提出企业重估单一前沿模型供应商策略的七大压力,主张开放权重模型已能以更低成本达到与顶级前沿模型相当的基准表现,并带来数据主权与运营自主。
推荐理由:文中七条来自企业部署一线的观察,解释了单一前沿模型策略为何被重估,以及开放权重模型的成本与治理权衡。
AWS Machine Learning Blog 演示如何通过 code-based evaluator 把 TypeSafe 托管的 Jev 和开源的 Strands Decider 2B 两个决策模型接入 Amazon Bedrock AgentCore Evaluations。
NVIDIA 发布 CUDA 13.5,在多个主要新平台上达到正式可用(GA)。其中 NVIDIA Vera Rubin 支持从早期开发者访问进入 GA,可投入企业生产环境。
AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,在生产级 Agent 中落地四层上下文工程:多智能体架构隔离、提示词控制、文件系统外置与独立验证。
推荐理由:原文把上下文工程整理为四层可迁移实践,Deep Insight 参考实现给出 95% 与 97% 的 token 压缩数据供读者对照落地。
马来西亚最新 5G 运营商 U Mobile 联合 AWS 与合作伙伴 Axrail,基于 Amazon Bedrock AgentCore 构建智能体帮助台 AiDaH,已覆盖六大业务部门超 150 个运营场景。平台采用托管智能体运行时与内建记忆,关键类别工单量最多下降 84.5%。系统部署于亚太(新加坡)区域,员工经 Microsoft Teams 使用。
Lovable 联合创始人 Anton Osika 在新上线的技术博客复盘了从 GPT Engineer 到 Lovable 的构建历程,用户至今已在平台创建超过 7000 万个项目。
推荐理由:Lovable 创始人复盘多次推倒重建的工程取舍,其中用知识文件加检索替代微调的做法可供其他 AI 产品团队借鉴。
Buoyant 发布开源推理控制平面 Kinference,用 vLLM 执行底层推理,客户端把 OpenAI 或 Anthropic 兼容流量指向其 HTTP 端点即可接入。
vLLM 宣布为 Moonshot AI 开源模型 Kimi K3.1 Pro 提供 Day-0 支持,覆盖 NVIDIA GPU、AMD GPU、Google TPU 和 Alibaba T-Head Zhenwu PPU。
推荐理由:原文给出稀疏注意力在多类芯片上的部署方案与吞吐数据,读者可以据此评估长上下文智能体推理的硬件选型。
Claude Platform 原生 OpenTelemetry 导出进入 Public Beta,Anthropic SDKs、Messages API 和 Claude Managed Agents 的 trace 可发送到 Databricks MLflow 并存入 Unity Catalog。
Hugging Face 提出 transformers-mic 标准,把真实 checkpoint 缩小成 fixture 模型,配合可运行用例和人工审核的基线,在 PR 阶段用 CPU 做低成本集成测试。
Cohere 宣布在 Model Vault 和 Model Vault Encrypted 上线第三方模型,企业可在全托管加密推理平台上运行 Cohere 自家模型与 DeepSeek V4.1 Flash、GLM 5.3 Flash、Gemma 4、GPT-OSS、Phi 等主流开源模型。
Browser Use 官方博客将其云端浏览器服务与 Kernel 在定价、反检测、性能、认证和开发体验上逐项对比。Browser Use headless 为 $0.02/小时、住宅代理 $5/GB 且无需订阅;Kernel 按秒计费,headless 约 $0.06/小时、headful $0.48/小时,代理流量不限量但受公平使用约束。
Sarvam AI 发布基于 Sarvam 105B 的 System One 决策模型 Sarvam Prism,以 Apache 2.0 许可开放权重。在自测的 25 个决策模型中,Prism 以 71.8 的平均分和 B200 上 44 ms 的中位响应成为 100 ms 内得分最高的模型,90% 置信度下英文实际误差 2.2% 低于预测的 3.3%。
LangChain 推出 Managed Deep Agents 并在 LangSmith Cloud 开放公测,开发者把 deep agent 写成一个 Python 项目文件夹,用 mda deploy 一条命令部署到生产环境。
推荐理由:原文说明如何以项目文件声明记忆、调度和沙箱并一条命令部署 Deep Agents,想省去自建运行时的团队可对照评估。
SGLang 发布 v0.5.23,包含来自 257 名贡献者的 1007 个 PR,新增 Muse Spark Open、Beam-1.0、MiniMax-M3.1-Flash、面壁 MiniCPM-V 4.7 等 10 个模型,并通过 SGLang-TorchTPU 插件支持 Google TPU7x。
OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。
推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。
Ray 宣布成立硬件加速器特别兴趣小组(SIG),联合硬件厂商、贡献者和应用开发者制定厂商中立的加速器支持路线图。首批路线图聚焦开发测试基础设施、硬件感知能力和网络传输三大方向。Ray 目前已支持十余种加速器,包括 NVIDIA 和 AMD GPU、TPU、Trainium、Gaudi 等。
Google Developers Blog 介绍以每成功任务成本而非每 token 价格衡量 coding agent 经济性,并把 TypeSafe 的 Jev 分类器接在 Google Antigravity 的模型调用前做路由。
推荐理由:Google 官方用 50 题基准实测轻量分类器路由 Gemini 模型的成本收益,给出了可复用的路由方法和三条落地规则。
AI 编程成本不该按 token 计量,而应以「每合并 PR 成本」衡量交付成果。编程智能体单任务耗用的 token 可达普通聊天的 10-50 倍,Uber 扩用 Claude Code 后据报 4 月即耗尽 2026 年 AI 预算。HPE 将 150 多个内部应用的常规任务路由到本地开源权重模型,token 成本降 30-50%。