Day-0 支持:摩尔线程完成 3 万亿级参数 Kimi-K3.1 Pro 适配,支持文本与图片推理
摩尔线程宣布基于 MTT S5000 智算卡与 MUSA 软件栈,完成 Kimi-K3.1 Pro 模型的 Day-0 适配,打通模型加载、服务启动及文本、图片基础推理链路。
摩尔线程宣布基于 MTT S5000 智算卡与 MUSA 软件栈,完成 Kimi-K3.1 Pro 模型的 Day-0 适配,打通模型加载、服务启动及文本、图片基础推理链路。
作者用开源平台 Switch AI 构建了 OpsSwitch:四个 AI 智能体在团队聊天室接力完成事故定级、根因定位、补丁生成与复盘,部署前须人工回复 Approve。演示事故从告警到修复仅 91 秒,完整代码开源在 GitHub kpunia306/ops-switch。
作者用对 osFoundry 正式环境的未验证请求加本机 Python 重建,演示 Claude 自定义连接器如何凭 tools/call 返回 401 的 WWW-Authenticate 头(RFC 9728 resource metadata)找到 OAuth 登录入口。
Vercel 于 2026 年 11 月 4 日发布 Schedules 并在 5 日进入公开测试,定位为 Cron Jobs 的继任者,旧任务可继续运行且无强制切换。
LangChain 宣布 Managed Deep Agents 为智能体内置浏览器,可在 LangSmith 中无需自建基础设施地构建和部署能操作网页的智能体。
推荐理由:原文给出 WebVoyager 90% 通过率与成本对比,并解释 thread 与 user 作用域及人工登录交接的设计取舍。
LangChain 团队对比七套浏览器工具集,为 Managed Deep Agents 选定 Browserbase 的 Stagehand,并用 LangSmith traces 和 evals 持续迭代优化。
推荐理由:原文示范了用 traces 定位 Agent 浪费的步骤和 token、改工具后用 evals 验证的流程,可迁移到自己的 Agent 优化。
Meta 总裁 Dina Powell McCormick 在 WSJ Tech 大会上表示,中期选举中民主党的胜选将令企业更难建设数据中心,行业尚未充分解释这些投资的好处。
SemiAnalysis 公布 TPUv7 在四个前沿模型上的长上下文多轮智能体推理基准结果,称对外部客户而言 Google TPU 的性价比或领先或具竞争力。
Amazon Marketplace 用 Amazon SageMaker AI 上基于 VLM 的多模型融合方案评估商品页 A+ Content 质量。方案将整页内容渲染成单一快照交给 VLM 整体评估,把 VLM 语义评分与 OCR 可读性信号输入基于专家标注训练的 CatBoost 分类器,再用 SHAP 解释评分并生成改进建议。
Databricks 发布 Databricks Apps 扩容开发者指南,按设计、构建、测试部署和运维四个阶段讲解应用如何从少量用户扩展到数百或数千人。指南建议把重负载工作交给专用服务、用 async 代码和按用户隔离的缓存保持响应,并将必须持久化的硬状态存入 Lakebase 或 Unity Catalog 表,让任意实例都能重建会话。
Databricks 撰文详解 Delta Sharing 如何在 2026 年 6 月演进为 Linux Foundation 治理的开放协议 OpenSharing,用于零拷贝共享数据与 AI 资产。
NVIDIA 以 GPU、CPU、网络、存储与软件的全栈协同设计化解 AI 工厂的内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU HBM 容量仅增约 3%,SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30x。
微软研究院发布 PDD Kit,把开发者意图转成 Verus 形式化规范,对每个输入验证智能体所写代码,证明覆盖不到处以测试兜底。团队在 GitHub Next 的 Chopin 中用它验证了约 5,000 行 Rust 全栈应用 Pet Store 的登录逻辑,开发者只审查意图产物而未逐行阅读生成代码,pdd-ship 还会把 Verus 检查加入 CI。
推荐理由:原文展示把代码审查重心从逐行阅读转向意图规范的方法,以形式化验证和边界测试守住智能体的实现约定。
Google 宣布 Cloud API Gateway 流式支持进入公开预览,流式端点可部署在网关后并保留鉴权、监控等既有安全策略。该功能支持 SSE、WebSockets 和 gRPC 等流式模式,连接最长保持 1 小时。配合 model routing,可通过单一 OpenAI 兼容端点将请求路由到 Gemini、Claude 或 OpenAI gpt-oss 模型。
Pragmatic Engineer 播客访谈前 Slack 后端性能负责人、前 GitHub 工程师 Maude Lemaire,讨论超大规模产品的扩展挑战。
LangSmith BYOC 现已上线 AWS(GA)、Azure 和 Google Cloud(Beta),traces、评测、数据集等敏感数据留在用户自有云账户。
Broadcom 高级 SRE Advait Patel 在 QCon AI 演讲中分享一套让生产环境 AI 智能体系统通过合规审计的零信任实践方法,主张把防御边界从提示词层移到爆炸半径所在的工具层。
Together AI 发布 Together Compiler,用智能体随生产流量变化持续重新优化推理,TPS 最高较 InferenceX 最优配置提升 2.6x。
Apache Spark 4.3 正式发布,现已可在 Databricks Runtime 19 中使用。Real-Time Mode 新增流式聚合、去重和 transformWithState 有状态处理,三项代表性基准的 P99 端到端延迟分别为 136 ms、139 ms、141 ms,均低于 150 ms。
Cursor 推出 Build Live Apps 功能,用户描述需求后由云 Agent 自动完成搭建应用、按需创建 Postgres 数据库、配置 Cursor SSO 认证并部署,发布后得到可分享链接。
推荐理由:原文说明了从描述需求到部署上线的完整流程和安全检查机制,非工程角色也能据此判断能否用来自建内部工具。
Databricks 一线工程师撰文提出企业重估单一前沿模型供应商策略的七大压力,主张开放权重模型已能以更低成本达到与顶级前沿模型相当的基准表现,并带来数据主权与运营自主。
推荐理由:文中七条来自企业部署一线的观察,解释了单一前沿模型策略为何被重估,以及开放权重模型的成本与治理权衡。
AWS Machine Learning Blog 演示如何通过 code-based evaluator 把 TypeSafe 托管的 Jev 和开源的 Strands Decider 2B 两个决策模型接入 Amazon Bedrock AgentCore Evaluations。
NVIDIA 发布 CUDA 13.5,在多个主要新平台上达到正式可用(GA)。其中 NVIDIA Vera Rubin 支持从早期开发者访问进入 GA,可投入企业生产环境。
AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,在生产级 Agent 中落地四层上下文工程:多智能体架构隔离、提示词控制、文件系统外置与独立验证。
推荐理由:原文把上下文工程整理为四层可迁移实践,Deep Insight 参考实现给出 95% 与 97% 的 token 压缩数据供读者对照落地。
马来西亚最新 5G 运营商 U Mobile 联合 AWS 与合作伙伴 Axrail,基于 Amazon Bedrock AgentCore 构建智能体帮助台 AiDaH,已覆盖六大业务部门超 150 个运营场景。平台采用托管智能体运行时与内建记忆,关键类别工单量最多下降 84.5%。系统部署于亚太(新加坡)区域,员工经 Microsoft Teams 使用。
Lovable 联合创始人 Anton Osika 在新上线的技术博客复盘了从 GPT Engineer 到 Lovable 的构建历程,用户至今已在平台创建超过 7000 万个项目。
推荐理由:Lovable 创始人复盘多次推倒重建的工程取舍,其中用知识文件加检索替代微调的做法可供其他 AI 产品团队借鉴。
Together AI 提出 Polymorphic Inference,用 AI 智能体自动调优其端点上开源模型的推理,称其为全球首个生产级递归自我改进(RSI)推理系统。该方案通过 Continuous Compilation 持续自优化,应对 OpenRouter 上 80% 流量流向近三个月发布新模型、排名前十开源模型架构各异的快速变化。目前已有 40+ 模型入选其生产体系。
Buoyant 发布开源推理控制平面 Kinference,用 vLLM 执行底层推理,客户端把 OpenAI 或 Anthropic 兼容流量指向其 HTTP 端点即可接入。
vLLM 宣布为 Moonshot AI 开源模型 Kimi K3.1 Pro 提供 Day-0 支持,覆盖 NVIDIA GPU、AMD GPU、Google TPU 和 Alibaba T-Head Zhenwu PPU。
推荐理由:原文给出稀疏注意力在多类芯片上的部署方案与吞吐数据,读者可以据此评估长上下文智能体推理的硬件选型。
Together AI 发布 Together Compiler(TKCC),称其为首个利用高吞吐 agent 对多样推理工作负载做持续优化的编译循环,目前已在线上服务数万亿 token。
Claude Platform 原生 OpenTelemetry 导出进入 Public Beta,Anthropic SDKs、Messages API 和 Claude Managed Agents 的 trace 可发送到 Databricks MLflow 并存入 Unity Catalog。
Google 发布 LiteRT Tensor API,轻量级 C++ API 支持逐算子构建端侧机器学习模型,同一计算图无需重写即可在 CPU、GPU 和 NPU 上运行。
Hugging Face 提出 transformers-mic 标准,把真实 checkpoint 缩小成 fixture 模型,配合可运行用例和人工审核的基线,在 PR 阶段用 CPU 做低成本集成测试。
Cohere 宣布在 Model Vault 和 Model Vault Encrypted 上线第三方模型,企业可在全托管加密推理平台上运行 Cohere 自家模型与 DeepSeek V4.1 Flash、GLM 5.3 Flash、Gemma 4、GPT-OSS、Phi 等主流开源模型。
Browser Use 官方博客将其云端浏览器服务与 Kernel 在定价、反检测、性能、认证和开发体验上逐项对比。Browser Use headless 为 $0.02/小时、住宅代理 $5/GB 且无需订阅;Kernel 按秒计费,headless 约 $0.06/小时、headful $0.48/小时,代理流量不限量但受公平使用约束。
Sarvam AI 发布基于 Sarvam 105B 的 System One 决策模型 Sarvam Prism,以 Apache 2.0 许可开放权重。在自测的 25 个决策模型中,Prism 以 71.8 的平均分和 B200 上 44 ms 的中位响应成为 100 ms 内得分最高的模型,90% 置信度下英文实际误差 2.2% 低于预测的 3.3%。
Legora CTO Jacob Lauritzen 在 Latent Space 访谈中详解为律师打造 AI 智能体的方法,背景是公司刚完成 5.5 亿美元 E 轮融资、估值达 88 亿美元。
LangChain 推出 Managed Deep Agents 并在 LangSmith Cloud 开放公测,开发者把 deep agent 写成一个 Python 项目文件夹,用 mda deploy 一条命令部署到生产环境。
推荐理由:原文说明如何以项目文件声明记忆、调度和沙箱并一条命令部署 Deep Agents,想省去自建运行时的团队可对照评估。
SGLang 发布 v0.5.23,包含来自 257 名贡献者的 1007 个 PR,新增 Muse Spark Open、Beam-1.0、MiniMax-M3.1-Flash、面壁 MiniCPM-V 4.7 等 10 个模型,并通过 SGLang-TorchTPU 插件支持 Google TPU7x。
OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。
推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。