跳到正文
  1. AWS Machine Learning Blog65

    SageMaker Inference 新增 Multi-Instance GPU 分区以提升模型端点的 GPU 利用率

    Amazon SageMaker Inference 现已支持 GPU 分区,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 硬件隔离地划分为最多 7 个分区,使端点可承载的模型数量不再受 GPU 颗数限制。

    推荐理由:原文给出各 GPU 型号的分区档位和 H100 分区对整卡 A100 的实测对比,读者可据此为模型选择合适的 GPU 部署单元。

  2. vLLM 官方博客61

    NVIDIA Research 与 Inferact 提出异步 RL 论文 REINFORCE Zero,零失配覆盖 DeepSeek-V4.1 与 Kimi K3.1

    NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,通过对齐 rollout 与训练内核、再用不截断的 token 级重要性采样,实现稳定的异步强化学习。

    推荐理由:论文把 rollout 与训练的差距拆成权重滞后和内核失配两部分,说明对齐内核后不加截断的重要性采样就能稳定异步训练,滞后 64 仍可学习。

  3. OpenClaw · Blog60

    OpenClaw 重构模型发现机制,新模型无需等待更新即可选用

    OpenClaw 用约五周和约 80 个 pull requests 重构了模型发现机制,用户无需等待客户端更新即可选用新模型。现在模型列表来自三处:每四小时重建、收录约 1000 个模型的 catalog.openclaw.ai 托管目录,账号可用的模型清单,以及 PATH 上检测到的更新版 Codex 真实握手;一次报告版本与运行版本不一致的修复已回滚。

    推荐理由:原文拆解了模型发现机制的三处数据来源和一次回滚教训,读者可以借鉴其中版本一致性与降级处理的工程思路。

  1. LangChain · Blog65

    LangChain 如何为 Deep Agents 优化浏览器使用工具

    LangChain 团队对比七套浏览器工具集,为 Managed Deep Agents 选定 Browserbase 的 Stagehand,并用 LangSmith traces 和 evals 持续迭代优化。

    推荐理由:原文示范了用 traces 定位 Agent 浪费的步骤和 token、改工具后用 evals 验证的流程,可迁移到自己的 Agent 优化。

  2. LangChain · Blog63

    LangChain 为 Managed Deep Agents 推出智能体浏览器能力

    LangChain 宣布 Managed Deep Agents 为智能体内置浏览器,可在 LangSmith 中无需自建基础设施地构建和部署能操作网页的智能体。

    推荐理由:原文给出 WebVoyager 90% 通过率与成本对比,并解释 thread 与 user 作用域及人工登录交接的设计取舍。

  3. Microsoft Research61

    微软研究院发布 PDD Kit,对智能体编写的全栈 Web 应用做形式化验证

    微软研究院发布 PDD Kit,把开发者意图转成 Verus 形式化规范,对每个输入验证智能体所写代码,证明覆盖不到处以测试兜底。团队在 GitHub Next 的 Chopin 中用它验证了约 5,000 行 Rust 全栈应用 Pet Store 的登录逻辑,开发者只审查意图产物而未逐行阅读生成代码,pdd-ship 还会把 Verus 检查加入 CI。

    推荐理由:原文展示把代码审查重心从逐行阅读转向意图规范的方法,以形式化验证和边界测试守住智能体的实现约定。

  1. Cursor Changelog76

    Cursor 推出 Build Live Apps 功能,可在编辑器内构建并部署在线应用

    Cursor 推出 Build Live Apps 功能,用户描述需求后由云 Agent 自动完成搭建应用、按需创建 Postgres 数据库、配置 Cursor SSO 认证并部署,发布后得到可分享链接。

    推荐理由:原文说明了从描述需求到部署上线的完整流程和安全检查机制,非工程角色也能据此判断能否用来自建内部工具。

  2. Databricks · Blog62

    Databricks 工程师解析企业转向开放权重模型的七大动因

    Databricks 一线工程师撰文提出企业重估单一前沿模型供应商策略的七大压力,主张开放权重模型已能以更低成本达到与顶级前沿模型相当的基准表现,并带来数据主权与运营自主。

    推荐理由:文中七条来自企业部署一线的观察,解释了单一前沿模型策略为何被重估,以及开放权重模型的成本与治理权衡。

  3. AWS Machine Learning Blog64

    生产级 AI Agent 的四层上下文工程:Deep Insight 如何在工作代码中落地

    AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,在生产级 Agent 中落地四层上下文工程:多智能体架构隔离、提示词控制、文件系统外置与独立验证。

    推荐理由:原文把上下文工程整理为四层可迁移实践,Deep Insight 参考实现给出 95% 与 97% 的 token 压缩数据供读者对照落地。

  1. Lovable Blog66

    Lovable 创始人讲述如何构建 Lovable 以及为何不断重建它

    Lovable 联合创始人 Anton Osika 在新上线的技术博客复盘了从 GPT Engineer 到 Lovable 的构建历程,用户至今已在平台创建超过 7000 万个项目。

    推荐理由:Lovable 创始人复盘多次推倒重建的工程取舍,其中用知识文件加检索替代微调的做法可供其他 AI 产品团队借鉴。

  2. vLLM 官方博客74

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布为 Moonshot AI 开源模型 Kimi K3.1 Pro 提供 Day-0 支持,覆盖 NVIDIA GPU、AMD GPU、Google TPU 和 Alibaba T-Head Zhenwu PPU。

    推荐理由:原文给出稀疏注意力在多类芯片上的部署方案与吞吐数据,读者可以据此评估长上下文智能体推理的硬件选型。

  1. LangChain · Blog63

    LangChain 推出 Managed Deep Agents 公测,一条命令把 deep agent 部署上 LangSmith

    LangChain 推出 Managed Deep Agents 并在 LangSmith Cloud 开放公测,开发者把 deep agent 写成一个 Python 项目文件夹,用 mda deploy 一条命令部署到生产环境。

    推荐理由:原文说明如何以项目文件声明记忆、调度和沙箱并一条命令部署 Deep Agents,想省去自建运行时的团队可对照评估。

  2. OpenAI · 失准报告与通报65

    OpenAI 训练并部署激活分类器,为大模型安全与对齐增加实时监测层

    OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。

    推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。

  3. Google Developers Blog62

    Google 用轻量分类器路由 Gemini 模型与思考级别以降低每任务成本

    Google Developers Blog 介绍以每成功任务成本而非每 token 价格衡量 coding agent 经济性,并把 TypeSafe 的 Jev 分类器接在 Google Antigravity 的模型调用前做路由。

    推荐理由:Google 官方用 50 题基准实测轻量分类器路由 Gemini 模型的成本收益,给出了可复用的路由方法和三条落地规则。

  1. vLLM Releases61

    vLLM v0.33.0 发布:升级 PyTorch 2.14 并支持多款新模型

    vLLM 发布 v0.33.0 版本,包含来自 389 位贡献者的 927 个提交,其中 122 位为新贡献者。

    推荐理由:更新日志列出了新增模型支持、推理加速数据和 CUDA 13.0 依赖变化,运维可据此评估升级对现有部署的影响。

  2. Pydantic AI 官方文章64

    Pydantic AI 评述 2026 年九个 Python AI Agent 框架及选型建议

    Pydantic AI 官方按统一标准对比九个 Python AI Agent 框架,包括 Pydantic AI、LangGraph/LangChain、OpenAI Agents SDK、Google ADK、Microsoft Agent Framework、Strands Agents、CrewAI、Claude Agent SDK 和 Agno。

    推荐理由:作者用统一标准逐一对比九个 Python Agent 框架的模型、持久化、审批、语音等能力,并明确给出各自适合的团队场景。

  1. OpenRouter · Announcements73

    OpenRouter 教程:构建在 Linux 沙箱中验证 bug 的 AI 代码审查器

    OpenRouter 发布教程,讲解如何用其 Responses API 构建会先在托管 Linux 沙箱中运行检查、确认 bug 后再返回 patch 的 AI 代码审查器。

    推荐理由:教程给出能跑在 Git 钩子和 GitHub Actions 的完整脚本,并用四模型实测的成本、耗时与修复率帮助选型。

  1. OpenRouter · Announcements67

    OpenRouter 详解开放权重与闭源权重模型的区别

    OpenRouter 发文解释开放权重与闭源权重模型的区别,并给出平台用量数据:开放权重模型占 top 50 模型 token 用量的份额从 2025 年 10 月的 27% 升至 2026 年 9 月底的 72%。

    推荐理由:原文以平台一手数据对比两类模型的用量份额与价格差距,并给出按价格上限混用两类模型的可迁移路由写法。

  1. OpenRouter · Announcements69

    Claude Code 用一次要花多少钱?OpenRouter 各模型真实会话成本

    OpenRouter 基于截至 2026 年 10 月 18 日的 30 天真实会话数据给出 Claude Code 各模型单次费用中位数:2-9 轮会话在 Claude Opus 5.5 上为 $0.31、Claude Sonnet 5.5 为 $0.16、Haiku 5.5 不到 1 美分,10-49 轮则分别为 $1.39 和 $0.60。

    推荐理由:原文用真实会话数据给出各模型单次费用中位数,解释首请求贵的缓存写入原因,并给出换默认模型等降本方法。

  1. vLLM 官方博客73

    vLLM 推出对 Mistral Large 4 的 Day 0 支持

    vLLM 官方宣布为 Mistral 新旗舰 MoE 原生多模态模型 Mistral Large 4 提供 Day 0 支持,FP8 与 NVFP4 权重均可通过 vllm/vllm-openai:mistral-large-4 镜像部署。

    推荐理由:原文在发布支持的同时给出 FP8 与 NVFP4 的质量速度实测对比,读者可据此为不同硬件规模选择部署配置。