跳到正文
11月7日周六
11月6日周五
11月5日周四
11月4日周三
  1. OpenAlex 主题 · 可解释 AI48

    开放权重:当 AI 模型成为解释与干预的对象

    Takehi、Teoh、Zhang 和 Khattab 于 2026 年 11 月 2 日报告实验:GPT-6 Astra 从小型神经网络的权重中推断出其特性。在另一项实验中,GPT-6 Astra 借助工具与反馈编辑语言模型,以减少推理循环。论文将神经网络权重视为训练产物与干预媒介,探讨 AI 模型成为解释与干预对象这一命题。

  2. Hugging Face Daily Papers46

    D3D:面向异步推测解码的解耦扩散起草

    复旦大学团队提出独立扩散草稿模型 D3D,去除对目标模型隐藏状态的依赖,实现起草与验证异步并行的推测解码。D3D 以 Qwen3-8B 和 Qwen3-32B 为目标时,在七个基准上平均取得 5.00× 和 5.71× 解码加速,超过 DFlash 的 4.03× 和 3.67×,GSM8K 上最高达 7.48×。代码、模型权重与基准测试脚本已开源。

11月3日周二
  1. Ai2 / Allen Institute for AI50

    StateBench:测试语言模型如何追踪长文档中的状态变化

    Ai2 推出 StateBench 基准,以四个难度层级测试语言模型追踪长文档状态变化的能力。在这些任务上直接训练时,带 Gated DeltaNet 层的循环与混合架构泛化远超 Transformer。Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol、Luna 等前沿模型随输入变长,仍在更难的状态追踪任务上失效。

11月2日周一
10月30日周五
  1. Amazon Science40

    Amazon Science 如何用知识蒸馏与 Medusa 加速旅行应用的大语言模型

    Amazon Science 与 Booking.com 合作,用知识蒸馏和 Medusa 框架加速旅行应用中的大语言模型。实验以 1.1B 参数的 TinyLlama 为学生、70B 参数的 Llama-3.1 为教师,最终模型匹配教师质量,推理提速 10-20 倍,成本不到三分之一。方案面向 AI Trip Planner、Smart Filters 和住宿描述生成三项功能。

10月28日周三
  1. Google Research 博客61

    Google Research 提出睡眠框架,让大语言模型在持续学习中保留知识

    Google Research 提出持续学习中的睡眠框架,让大语言模型在活跃交互与离线睡眠之间交替,把脆弱的短期记忆固化为长期参数记忆,同时缓解灾难性遗忘。睡眠阶段包含记忆巩固与做梦两部分,通过解锁 MoE 记忆块、结合 GKD 与强化学习的知识注入,以及随机专家选择和梯度筛选合成样本来实现自我提升。

    推荐理由:原文给出睡眠框架在持续翻译、长上下文和数学推理上对比 ICL、SFT 等基线的实验结果,可了解缓解灾难性遗忘的一种新思路。

10月15日周四
  1. Apple Machine Learning Research44

    Selection-Based Structured Reasoning:迈向高效多模态搜索智能体

    Apple 研究团队提出 Selection-Based Structured Reasoning(SSR)框架,将多模态搜索智能体的逐步推理从开放式生成改为从预置候选中选取。在 2B 和 4B 模型、七个多模态搜索基准上的评估显示,SSR 平均成功率与同规模领先搜索智能体相当,单轮推理延迟降低逾 90%,每题总模型推理延迟降低 28–54%。

8月17日周一
6月9日周二
6月6日周六
5月8日周五