跳到正文
6月19日周五
  1. OpenAI · 失准报告与通报64

    OpenAI 研究表明有益特质强化学习可带来广泛且持久的对齐改进

    OpenAI 发表对齐研究,发现针对诚实、认知谦逊、可纠正性等有益特质的强化学习在 53 个内部与外部评测中的 44 个上优于同等算力基线,改进覆盖欺骗、奖励劫持、健康与心理健康等方向。这些改进可跨域泛化,仅在健康对话上训练也提升了非健康领域的对齐评测,剔除健康与科学数据后健康评测仍然改善。经过该训练的模型在对抗提示与有害微调下更难被引向有害行为,同时对正常有益指令仍保持可引导。

    推荐理由:原文给出跨域与对抗压力下的实验证据,读者可据此判断有益特质强化学习能带来多大范围的可泛化对齐改进。

6月17日周三
  1. OpenAI · 失准报告与通报64

    OpenAI 验证 WildChat 公开聊天数据能否预测模型真实失准率

    OpenAI 用内部生产数据验证,基于公开数据集 WildChat 的对话前缀重采样生成模型回复,能较准确预测 GPT 系列模型在线上真实使用中的失准行为发生率。

    推荐理由:OpenAI 用内部生产数据验证了公开聊天数据能预测模型线上失准率,同时指出它在智能体场景下误差明显更大。

6月9日周二
6月6日周六
5月8日周五
5月1日周五
  1. ARC Prize · 官方博客71

    ARC Prize 用 ARC-AGI-3 分析 GPT-5.5 与 Opus 4.7 的三种推理失败模式

    ARC Prize 团队复盘 160 段 GPT-5.5 与 Opus 4.7 在 ARC-AGI-3 上的对局和推理轨迹,归纳出三种失败模式并开源分析包,两者在半私有数据集上得分分别为 0.43% 和 0.18%。

    推荐理由:ARC-AGI-3 的逐局推理复盘呈现 GPT-5.5 与 Opus 4.7 失败方式的不同,比总分更能说明两者推理差异。

4月20日周一
  1. Berkeley AI Research47

    GRASP:面向世界模型长时程规划的梯度规划方法

    Yann LeCun 等研究者提出 GRASP,一种基于梯度的世界模型规划器,使长时程规划变得可行。该方法将轨迹提升到虚拟状态使优化跨时间并行、在状态迭代中加入随机性以促进探索,并重塑梯度让动作获得干净信号,避开经高维视觉模型的脆弱“状态-输入”梯度。长时程规划此前易因梯度爆炸或消失、非贪心结构造成的糟糕局部极小而失效。

4月14日周二
3月25日周三
  1. ARC Prize · 官方博客70

    ARC Prize 发布 ARC-AGI-3 交互式基准,ARC Prize 2026 奖金超 200 万美元

    ARC Prize 发布 ARC-AGI-3,这是 ARC-AGI 系列首个完全交互式基准,由数百个人类游戏设计师手工打造的回合制环境和数千个游戏式关卡组成,不提供任何说明、规则或目标,要求智能体自主探索玩法并将经验带入越来越难的关卡。

    推荐理由:人类得分 100% 而前沿 AI 仅 0.51%,这组对比数字直观呈现了智能体自主探索能力的缺口。

3月13日周五
  1. Berkeley AI Research41

    Berkeley AI Research 介绍大规模识别 LLM 关键交互的 SPEX 与 ProxySPEX 算法

    Berkeley AI Research 介绍 SPEX 与 ProxySPEX 两种算法,通过少量消融实验大规模识别 LLM 的关键交互。该框架利用稀疏性和低阶性将交互发现转化为稀疏恢复问题,可用于特征归因、数据归因与模型组件归因。加入层级假设的 ProxySPEX 以约 10x 更少的消融达到 SPEX 同等性能,SPEX 在上下文扩展到数千特征时仍保持高 faithfulness。

3月11日周三
3月2日周一
2月17日周二
  1. Answer.AI 官方研发博客70

    Answer.AI 披露未授权工具调用问题,Claude 等模型可调用未被授予的工具且 API 不拦截

    Answer.AI 的 Piotr Czapla 披露大模型未授权工具调用问题,模型会幻觉出未被授予的工具并发起调用,API 不校验工具名,只要函数存在于运行环境中调用就会真正执行,他在 solveit 中遇到 Claude 4.5 幻觉调用 add_msg 成功写入笔记,并复现于 claude-opus-4-6、Gemini 和 Grok。

    推荐理由:作者用可复现实验说明模型可能调用未被授权的工具且 API 不拦截,做能力隔离的 Agent 系统可以据此检查校验逻辑。

1月10日周六
  1. Berkeley AI Research46

    Berkeley AI Research 提出信息驱动的成像系统设计框架

    Berkeley AI Research 团队在 NeurIPS 2025 论文提出基于互信息的成像系统评估与优化框架。该指标统一考虑噪声、分辨率与光谱灵敏度,在彩色摄影、射电天文、无透镜成像和显微四个领域预测下游解码器性能。据此优化的设计与最先进端到端方法效果相当,内存和计算量更少,且无需任务专用解码器设计。

2025年12月5日周五
  1. ARC Prize · 官方博客72

    ARC Prize 2025 结果公布,ARC-AGI-3 将于 2026 年初转向交互推理

    ARC Prize 2025 揭晓成绩:NVARC 以 24.03% 夺得 Kaggle 冠军,1,455 支队伍提交 15,154 份方案,90 篇论文参赛且所有获奖方案与论文均开源。

    推荐理由:官方复盘给出 ARC-AGI-2 最新成绩与 refinement loop 分析,并预告 ARC-AGI-3 将转向交互推理评测,读者可据此理解推理系统的进展与基准设计的局限。