跳到正文
  1. AWS Machine Learning Blog65

    SageMaker Inference 新增 Multi-Instance GPU 分区以提升模型端点的 GPU 利用率

    Amazon SageMaker Inference 现已支持 GPU 分区,基于 NVIDIA Multi-Instance GPU(MIG)把一块物理 GPU 硬件隔离地划分为最多 7 个分区,使端点可承载的模型数量不再受 GPU 颗数限制。

    推荐理由:原文给出各 GPU 型号的分区档位和 H100 分区对整卡 A100 的实测对比,读者可据此为模型选择合适的 GPU 部署单元。

  1. AWS Machine Learning Blog64

    生产级 AI Agent 的四层上下文工程:Deep Insight 如何在工作代码中落地

    AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,在生产级 Agent 中落地四层上下文工程:多智能体架构隔离、提示词控制、文件系统外置与独立验证。

    推荐理由:原文把上下文工程整理为四层可迁移实践,Deep Insight 参考实现给出 95% 与 97% 的 token 压缩数据供读者对照落地。

  1. MIT Technology Review · AI70

    MIT Technology Review 解析智能体网络的到来与人类互联网的命运

    MIT Technology Review 发文判断智能体网络已经到来,Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体正被接入用户邮箱与银行账户,开始改写以人类为中心的互联网。

    推荐理由:原文将当下智能体大规模上网与二十年前无人问津的语义网设想对照,解释大语言模型为何让自主智能体真正具备了上网执行任务的能力。

已经到底了