跳到正文
今天11月8日周日3 条
  1. Google AI · DEV 作者专属41

    Amazon 称新记忆方法有望降低聊天机器人成本

    Amazon 研究员 Omar Sanseviero 在 X 发布研究称,将用户稳定事实内化进模型参数的“权重记忆”可减少每次查询读取的 token,效果匹敌或超越文本检索。最佳结果来自 verify-then-regenerate 路由器,在权重记忆与检索文本之间切换。该方案中文本检索在模型外存储原始笔记,学生模型内化稳定事实。

11月7日周六
  1. Google Developers Blog63

    Google 量化代码库陈旧 TODO 注释对编码智能体的干扰成本

    Google 在开发者博客公布对其代码库的大规模测量,覆盖数千名工程师、数亿步智能体操作,发现陈旧的 TODO(bug/...) 注释会干扰编码智能体,13% 的读文件会话接触过这类注释,其中 6% 触发针对该 bug 的后续动作,83% 属于开发者未要求的自发行动。

    推荐理由:用内部数亿步智能体交互数据量化陈旧 TODO 注释的干扰代价,为代码库整洁度如何影响智能体效率提供了量化依据。

11月6日周五
11月5日周四
  1. 量子位80

    OpenAI网络安全模型10天挖出Linux内核948个漏洞,花费120万美元

    OpenAI用尚未发布的网络安全模型和AI Agent流水线,10天扫描Linux内核,花费120万美元找出948个独立的本地提权漏洞。流水线分侦察、验证、攻击三步,30小时内复现1724个内核崩溃漏洞,命中率74.7%,平均每个漏洞成本1279美元,抽样分析还发现AI自行使用了至少10种全新攻击技术。

    推荐理由:原文拆解了OpenAI智能体挖漏洞的三步流水线和各环节成本,可对照人类研究员一年约20个漏洞的效率与漏洞奖金水平。

11月4日周三
11月3日周二
  1. MIT Technology Review · AI50

    「逆向博弈论」如何约束 AI 智能体

    「逆向博弈论」即机制设计,研究者试图用激励规则引导 AI 智能体遵守规范。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型预测彼此答案或互相竞争,以阻止其在测试中「故意扮弱」。普林斯顿的 Elad Hazan 则设想模型轮流担任 solver 与 auditor 并按结果奖惩,但能否理性响应激励存疑。

  2. OpenAI · 失准报告与通报72

    OpenAI 研究发现智能体安全评测成功率普遍低于生产表现,评测目标感知是关键因素

    OpenAI 发布研究,对比六款模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策中的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点,其中 GPT-5.6 Sol 与 GPT-6 Sol 差距最大。

    推荐理由:研究发现智能体安全评测的成绩普遍低于可比生产表现,为判断安全评测分数能在多大程度上代表真实部署行为提供了参照。

11月2日周一
10月30日周五
  1. OpenAI · 失准报告与通报74

    OpenAI 讲解如何检测前沿模型的失准行为

    OpenAI 详解其前沿模型失准监控系统,覆盖训练、评估、内部使用和外部部署,对不低于 GPT-6 Astra 能力的模型监控每轮 RL 与评估,并监控全部内部 Codex 流量。

    推荐理由:原文给出从激活探针到人工响应的多层监控架构和分场景召回率,读者可借此了解前沿模型失准行为的检测机制。

10月29日周四
10月28日周三
  1. goose 官方博客63

    goose 对比实测五种开源编码 harness,同一模型下通过率相近而成本最多相差 75%

    goose 团队让 goose、Codex CLI、OpenCode、Hermes Agent、pi 五个开源编码 harness 使用同一模型 gpt-6.1-sol(high reasoning effort)完成相同的 Terminal-Bench 4 任务,每个 harness 各 310 次计分试验。

    推荐理由:同一模型下各 harness 通过率无显著差异而成本最多相差 75%,为编码 Agent 选型提供了实测成本参照。

10月27日周二
10月24日周六
10月22日周四
  1. Redwood Research · Blog70

    Redwood Research 与 METR 公开对 OpenAI 内部智能体监控系统的红队测试结果

    Redwood Research 与 METR 的员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部未对齐监控系统开展了三周高权限红队测试,产出 61 页内部报告并发布公开版。

    推荐理由:这份报告把外部深度红队测试发现的监控缺口和一组监控设计原则一并公开,搭建智能体安全监控时可作参考。

  2. Microsoft Research78

    Microsoft Research 证明悬置 31 年的数学难题 KLS 猜想

    Microsoft Research 研究员 Xinzhi Zhang 与 Zhao Song 证明了 1995 年提出的 KLS 猜想,表明对数凸分布中最优平面切割与任意形状切割的差距不超过与维数无关的通用常数。

    推荐理由:原文讲清了证明如何通过递归精化消除维度依赖,同日出现的独立证明和随后的 Lean 4 形式化让结果不依赖单一推理链。

10月17日周六
  1. Google Research 博客64

    Google Research 让 AI 智能体落地湿实验室,三项研究打通自主分子设计闭环

    Google Research 展示三项研究,将 AI 智能体接入湿实验室机器人运行闭环分子设计,并发现个位数纳摩尔亲和力的 FAP 蛋白结合剂。

    推荐理由:原文给出智能体操作真实湿实验室的框架与闭环设计结果,可看到实验反馈如何跟上计算设计的步伐。

10月15日周四
  1. Apple Machine Learning Research44

    Selection-Based Structured Reasoning:迈向高效多模态搜索智能体

    Apple 研究团队提出 Selection-Based Structured Reasoning(SSR)框架,将多模态搜索智能体的逐步推理从开放式生成改为从预置候选中选取。在 2B 和 4B 模型、七个多模态搜索基准上的评估显示,SSR 平均成功率与同规模领先搜索智能体相当,单轮推理延迟降低逾 90%,每题总模型推理延迟降低 28–54%。

10月14日周三
  1. METR 博客47

    METR 探讨评估方如何调查内部 AI 智能体的控制与监控

    METR 探讨评估方如何收集证据检验内部 AI 智能体监控的可靠性,目前开发者主要依赖基于 LLM 的监控捕捉潜在有害行为。评估围绕五个核心子问题展开:监控覆盖率、监控系统漏洞、绕过监控、含人工审查的响应,以及最坏未被发现的不当行为影响。估算覆盖率需访问推理日志与监控日志并访谈员工,监控系统漏洞则靠红队测试排查。

10月9日周五
  1. Epoch AI · Gradient Updates51

    Epoch AI 研究简报测算近 20 亿并发智能体上限与 AI 成本下降趋势

    Epoch AI 在 10 月 8 日的 Epoch Brief 中汇总多项新研究,测算到 2027 年出货的 AI 芯片可支撑约 3000 万至 1.7 亿并发前沿模型智能体,若改跑更便宜的模型则接近 20 亿;达到固定性能的成本过去三年每季度下降约 47%,约合每年 13 倍,快于其对比的任何变革性技术。