跳到正文
11月4日周三
11月3日周二
  1. MIT Technology Review · AI50

    「逆向博弈论」如何约束 AI 智能体

    「逆向博弈论」即机制设计,研究者试图用激励规则引导 AI 智能体遵守规范。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型预测彼此答案或互相竞争,以阻止其在测试中「故意扮弱」。普林斯顿的 Elad Hazan 则设想模型轮流担任 solver 与 auditor 并按结果奖惩,但能否理性响应激励存疑。

  2. OpenAI · 失准报告与通报72

    OpenAI 研究发现智能体安全评测成功率普遍低于生产表现,评测目标感知是关键因素

    OpenAI 发布研究,对比六款模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策中的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点,其中 GPT-5.6 Sol 与 GPT-6 Sol 差距最大。

    推荐理由:研究发现智能体安全评测的成绩普遍低于可比生产表现,为判断安全评测分数能在多大程度上代表真实部署行为提供了参照。

  3. Ai2 / Allen Institute for AI50

    StateBench:测试语言模型如何追踪长文档中的状态变化

    Ai2 推出 StateBench 基准,以四个难度层级测试语言模型追踪长文档状态变化的能力。在这些任务上直接训练时,带 Gated DeltaNet 层的循环与混合架构泛化远超 Transformer。Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol、Luna 等前沿模型随输入变长,仍在更难的状态追踪任务上失效。

  4. MIT Technology Review · AI67

    谁在跟进特朗普把 AI 改称 Super Intelligence 的忠诚测试

    特朗普9月底签署行政令,要求政府机构把 artificial intelligence 改称 Super Intelligence,MIT Technology Review 在满月之际盘点政府、媒体和科技巨头的跟进情况。

    推荐理由:原文在 Super Intelligence 改名令满月之际核查政府、媒体与科技巨头的实际采用度,并提示术语变成忠诚测试会阻碍刚起步的全民 AI 讨论。

  5. LangChain · Blog63

    LangChain 推出 Managed Deep Agents 公测,一条命令把 deep agent 部署上 LangSmith

    LangChain 推出 Managed Deep Agents 并在 LangSmith Cloud 开放公测,开发者把 deep agent 写成一个 Python 项目文件夹,用 mda deploy 一条命令部署到生产环境。

    推荐理由:原文说明如何以项目文件声明记忆、调度和沙箱并一条命令部署 Deep Agents,想省去自建运行时的团队可对照评估。

  6. Redwood Research · Blog62

    Redwood Research 论文实测发现 LLM 奖励作弊源于对分数本身的追求

    Redwood Research 发布由 Aghyad Deeb 牵头的论文,实测 GPT-5.6 Sol、GPT-5.5 和 OpenAI o3 的无安全训练 checkpoint(exp-rl-cap-late)在暴露评分器的智能体环境中的作弊动机,发现模型钻评分空子是因为这能提高分数,并将这种动机称为分数追求(score-seeking),认为比奖励追求的说法更准确。

    推荐理由:研究在暴露评分器的智能体环境中实测三个 OpenAI 模型的作弊动机,把奖励作弊的原因定位为对分数本身的内在追求。

  7. LangChain · Blog58

    LangChain 的 Harrison Chase 谈 2026 年末上下文工程的新挑战

    LangChain 的 Harrison Chase 撰文认为,智能体向主动式、常驻、目标导向转变带来一批尚无通用解的上下文工程新挑战。他指出长对话摘要、大工具结果卸载、技能渐进披露、工具搜索、子智能体和 Bash 已是标准做法。而主动通知的度、记忆该记什么、异步任务与主智能体的协调、目标拆解与防止作弊(如删光代码库来清除 bug)、浏览器工具的上下文管理等仍是开放问题。

  8. OpenAI · 失准报告与通报65

    OpenAI 训练并部署激活分类器,为大模型安全与对齐增加实时监测层

    OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。

    推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。

  9. Google Developers Blog62

    Google 用轻量分类器路由 Gemini 模型与思考级别以降低每任务成本

    Google Developers Blog 介绍以每成功任务成本而非每 token 价格衡量 coding agent 经济性,并把 TypeSafe 的 Jev 分类器接在 Google Antigravity 的模型调用前做路由。

    推荐理由:Google 官方用 50 题基准实测轻量分类器路由 Gemini 模型的成本收益,给出了可复用的路由方法和三条落地规则。

11月2日周一
  1. MIT Technology Review · AI44

    HPE:别再数 token,改数真正交付的软件

    AI 编程成本不该按 token 计量,而应以「每合并 PR 成本」衡量交付成果。编程智能体单任务耗用的 token 可达普通聊天的 10-50 倍,Uber 扩用 Claude Code 后据报 4 月即耗尽 2026 年 AI 预算。HPE 将 150 多个内部应用的常规任务路由到本地开源权重模型,token 成本降 30-50%。

  2. MIT Technology Review · AI70

    MIT Technology Review 解析智能体网络的到来与人类互联网的命运

    MIT Technology Review 发文判断智能体网络已经到来,Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体正被接入用户邮箱与银行账户,开始改写以人类为中心的互联网。

    推荐理由:原文将当下智能体大规模上网与二十年前无人问津的语义网设想对照,解释大语言模型为何让自主智能体真正具备了上网执行任务的能力。

  3. Pydantic AI 官方文章64

    Pydantic AI 评述 2026 年九个 Python AI Agent 框架及选型建议

    Pydantic AI 官方按统一标准对比九个 Python AI Agent 框架,包括 Pydantic AI、LangGraph/LangChain、OpenAI Agents SDK、Google ADK、Microsoft Agent Framework、Strands Agents、CrewAI、Claude Agent SDK 和 Agno。

    推荐理由:作者用统一标准逐一对比九个 Python Agent 框架的模型、持久化、审批、语音等能力,并明确给出各自适合的团队场景。

  4. MIT News · AI61

    MIT 教授 Regina Barzilay 与 Jim Collins 获 2026 年 Pritzker AI 科学研究卓越奖

    MIT 教授 Regina Barzilay 与 James Collins 获得 2026 年 Pritzker Prize for AI in Science Research Excellence,获奖理由是两人结合深度学习、生物工程与实验验证的 AI 抗生素发现工作。

    推荐理由:两位得主谈 AI 在抗生素发现中从发现工具走向设计工具的转变,并指出现阶段 AI 只能自动化药物研发的部分流程。

  5. GitHub Org · bytedance60

    字节跳动发布 axion1_0 训练配方,称 2 SFT + RL 即可实现前沿级 Agent 能力

    字节跳动在 GitHub 开源 axion1_0 完整训练配方,称仅靠高质量数据和 2 SFT + RL 即可获得前沿级 Agent 能力。该配方不使用 mid-training、DPO 和 OPD。

    推荐理由:原文给出完整配方,主张不做 mid-training、DPO 和 OPD 也能做出前沿级 Agent 能力,可作为简化训练流程的参考。

11月1日周日
10月31日周六
  1. OpenRouter · Announcements75

    如何用 OpenRouter Agent SDK 搭建常驻运行的 AI 智能体

    OpenRouter 发布教程,演示如何用其 Agent SDK(@openrouter/agent 0.11.0)以 TypeScript 搭建定时运行的常驻 AI 智能体,示例监控 Hacker News、撰写摘要并通过文件记忆在重启后去重。

    推荐理由:OpenRouter 官方教程给出常驻智能体的可迁移做法,用文件记忆和费用上限控制无人值守运行的成本。