跳到正文
11月7日周六
  1. vLLM 官方博客61

    NVIDIA Research 与 Inferact 提出异步 RL 论文 REINFORCE Zero,零失配覆盖 DeepSeek-V4.1 与 Kimi K3.1

    NVIDIA Research 与 Inferact 发布 REINFORCE Zero 论文,通过对齐 rollout 与训练内核、再用不截断的 token 级重要性采样,实现稳定的异步强化学习。

    推荐理由:论文把 rollout 与训练的差距拆成权重滞后和内核失配两部分,说明对齐内核后不加截断的重要性采样就能稳定异步训练,滞后 64 仍可学习。

11月3日周二
  1. OpenAI · 失准报告与通报65

    OpenAI 训练并部署激活分类器,为大模型安全与对齐增加实时监测层

    OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。

    推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。

10月30日周五
  1. Amazon Science40

    Amazon Science 如何用知识蒸馏与 Medusa 加速旅行应用的大语言模型

    Amazon Science 与 Booking.com 合作,用知识蒸馏和 Medusa 框架加速旅行应用中的大语言模型。实验以 1.1B 参数的 TinyLlama 为学生、70B 参数的 Llama-3.1 为教师,最终模型匹配教师质量,推理提速 10-20 倍,成本不到三分之一。方案面向 AI Trip Planner、Smart Filters 和住宿描述生成三项功能。

10月3日周六
8月4日周二
7月29日周三
5月8日周五