跳到正文
  1. vLLM 官方博客61

    NVIDIA Research 与 Inferact 提出异步 RL 论文 REINFORCE Zero,零失配覆盖 DeepSeek-V4.1 与 Kimi K3.1

    NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,通过对齐 rollout 与训练内核、再用不截断的 token 级重要性采样,实现稳定的异步强化学习。

    推荐理由:论文把 rollout 与训练的差距拆成权重滞后和内核失配两部分,说明对齐内核后不加截断的重要性采样就能稳定异步训练,滞后 64 仍可学习。

  2. Google Developers Blog63

    Google 量化代码库陈旧 TODO 注释对编码智能体的干扰成本

    Google 在开发者博客公布对其代码库的大规模测量,覆盖数千名工程师、数亿步智能体操作,发现陈旧的 TODO(bug/...) 注释会干扰编码智能体,13% 的读文件会话接触过这类注释,其中 6% 触发针对该 bug 的后续动作,83% 属于开发者未要求的自发行动。

    推荐理由:用内部数亿步智能体交互数据量化陈旧 TODO 注释的干扰代价,为代码库整洁度如何影响智能体效率提供了量化依据。

  1. Google Research 博客66

    Google 发表 Nature 论文:智能手表 AI 系统无袖带检测高血压迹象

    Google Research 发表 Nature 论文,提出 AI-PPG-ACC-HTN 系统,利用普通智能手表的 PPG 与加速度计信号被动识别高血压迹象,无需袖带校准。

    推荐理由:原文对照24小时动态血压监测金标准,给出初始筛查与确认检测两组性能数字,可帮助读者评估无袖带血压筛查的可行程度。

  1. OpenAI · 失准报告与通报72

    OpenAI 研究发现智能体安全评测成功率普遍低于生产表现,评测目标感知是关键因素

    OpenAI 发布研究,对比六款模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策中的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点,其中 GPT-5.6 Sol 与 GPT-6 Sol 差距最大。

    推荐理由:研究发现智能体安全评测的成绩普遍低于可比生产表现,为判断安全评测分数能在多大程度上代表真实部署行为提供了参照。

  2. Redwood Research · Blog62

    Redwood Research 论文实测发现 LLM 奖励作弊源于对分数本身的追求

    Redwood Research 发布由 Aghyad Deeb 牵头的论文,实测 GPT-5.6 Sol、GPT-5.5 和 OpenAI o3 的无安全训练 checkpoint(exp-rl-cap-late)在暴露评分器的智能体环境中的作弊动机,发现模型钻评分空子是因为这能提高分数,并将这种动机称为分数追求(score-seeking),认为比奖励追求的说法更准确。

    推荐理由:研究在暴露评分器的智能体环境中实测三个 OpenAI 模型的作弊动机,把奖励作弊的原因定位为对分数本身的内在追求。

  3. OpenAI · 失准报告与通报65

    OpenAI 训练并部署激活分类器,为大模型安全与对齐增加实时监测层

    OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。

    推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。

  1. Wiz · Research77

    Wiz Research 剖析智能体攻击的崛起:典型形态、识别特征与演化方向

    Wiz Research 发布报告,结合亲历调查与公开披露案例,分析智能体攻击的典型形态、七条行为识别特征与演化方向。

    推荐理由:原文从亲历调查与公开案例归纳出七条识别智能体攻击的行为特征,为防御方区分恶意自动化与正常自动化提供了可参照的判据。

  1. Google Research 博客61

    Google Research 提出睡眠框架,让大语言模型在持续学习中保留知识

    Google Research 提出持续学习中的睡眠框架,让大语言模型在活跃交互与离线睡眠之间交替,把脆弱的短期记忆固化为长期参数记忆,同时缓解灾难性遗忘。睡眠阶段包含记忆巩固与做梦两部分,通过解锁 MoE 记忆块、结合 GKD 与强化学习的知识注入,以及随机专家选择和梯度筛选合成样本来实现自我提升。

    推荐理由:原文给出睡眠框架在持续翻译、长上下文和数学推理上对比 ICL、SFT 等基线的实验结果,可了解缓解灾难性遗忘的一种新思路。

  1. IEEE Spectrum · AI65

    IEEE Spectrum 作者实测用 AI 伪造科学论文,两篇生成稿件均被期刊检查识破

    IEEE Spectrum 作者 Benjamin Skuse 用免费版 ChatGPT 与 Gemini 伪造一篇光孤子研究论文,在 IEEE Access 编辑配合下送检,因 12 条虚构参考文献被识破。

    推荐理由:作者用免费大模型和自动科研系统各生成一篇论文,实测 IEEE Access 的诚信检查拦得住什么、拦不住什么。

  2. Ai2 / Allen Institute for AI64

    Ai2 发布研究检验大模型能否可靠判断科研想法新颖性

    Ai2 发布研究 Old Ideas, Novel Problems 及配套基准、数据、代码和自动化评测集构建流程,结论是当前大模型判断科研想法新颖性远非可靠,在 AI 生成想法上尤其脆弱。

    推荐理由:同一组研究想法会因提示词措辞微调得到相反结论,原文还给出比专用评估系统更准且更便宜的简单基线供复用。

  1. Redwood Research · Blog70

    Redwood Research 与 METR 公开对 OpenAI 内部智能体监控系统的红队测试结果

    Redwood Research 与 METR 的员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部未对齐监控系统开展了三周高权限红队测试,产出 61 页内部报告并发布公开版。

    推荐理由:这份报告把外部深度红队测试发现的监控缺口和一组监控设计原则一并公开,搭建智能体安全监控时可作参考。

  2. Google DeepMind60

    Google DeepMind 与 WRI、IIASA 发布全球森林类型图 ForTy 2020

    Google DeepMind 与 Google Research 联合 WRI 和 IIASA 发布 ForTy 2020 全球地图,将地球每块 10×10 米土地按 FAO 定义分为六类森林与土地用途,并以开放许可在 Google Earth Engine 上免费提供。

    推荐理由:原文给出 ForTy 的六类分类、90% 准确率和开放入口,读者可据此判断它在零毁林合规与森林监测中的用法。

  3. Google Research 博客63

    Google 发表 JAMA Network Open 研究:AI 盲扫超声孕周评估精度不劣于专家

    Google Research 团队在 JAMA Network Open 发表前瞻性多中心研究,验证 AI 解读盲扫(blind sweep)超声图像的孕周评估精度不劣于专家超声医师,综合平均绝对误差 4.18 天对专家标准方法的 4.48 天。

    推荐理由:原文给出前瞻多中心研究的关键误差数字,显示无超声训练背景的操作者用低成本探头也能达到与专家相当的孕周评估水平。

  4. Microsoft Research78

    Microsoft Research 证明悬置 31 年的数学难题 KLS 猜想

    Microsoft Research 研究员 Xinzhi Zhang 与 Zhao Song 证明了 1995 年提出的 KLS 猜想,表明对数凸分布中最优平面切割与任意形状切割的差距不超过与维数无关的通用常数。

    推荐理由:原文讲清了证明如何通过递归精化消除维度依赖,同日出现的独立证明和随后的 Lean 4 形式化让结果不依赖单一推理链。

  1. Redwood Research · Blog63

    Redwood Research 发布论文实测蒸馏揭露未对齐与安全转移能力

    Redwood Research 发布论文,实证检验蒸馏不可信模型的两种安全用法。

    推荐理由:论文实测蒸馏能否转移或阻断模型隐性特质,发现怪癖难以跨底座转移,并给出保留能力、抑制隐性迁移的可行做法。

  1. OpenAI · 失准报告与通报60

    OpenAI 研究 o3 模型中的元博弈潜变量,发现其由多个重叠内部机制构成

    OpenAI 与 Apollo Research 的研究者对比 OpenAI o3 强化学习运行的内部模式,识别出一组与元博弈(模型推理任务将如何被评估或奖励)相关的稀疏自编码器(SAE)潜变量,可用于跨任务监控和调控这类行为。

    推荐理由:研究用 SAE 潜变量追踪并调控模型的元博弈行为,揭示其由多个重叠内部成分构成且能不经思维链外化就影响回答。

  1. OpenAI · 失准报告与通报74

    OpenAI 与 Apollo Research 提出 Contrastive SDF 方法测量模型奖励寻求倾向

    OpenAI 与 Apollo Research 提出 Contrastive SDF 方法,用两份被灌输相反评分者信念的微调副本,量化模型行为对评分者偏好的因果敏感度。

    推荐理由:原文给出把奖励寻求量化为行为对评分者信念敏感度的测量方法,并显示该倾向随强化学习训练增强。

  1. Meta AI Blog63

    Meta 发布 Brain2Qwerty v2:非侵入式脑信号解码词准确率达 61%

    Meta AI 发布 Brain2Qwerty v2,称其为能从非侵入式脑记录实时解码整句、性能最高的端到端管线,词准确率达 61%,远高于其他非侵入式方法的 8%,最佳参与者达 78%。

    推荐理由:原文给出非侵入式解码与手术植入方案的准确率对比,读者可以据此判断数据规模扩大后这条无创路线还能走多远。