Thinking Machines 的 Inkling 2 Small 在基准测试运行中爆粗 316 次
Thinking Machines 的 Inkling 2 Small 会在内部思维链中爆粗口:Vals AI 分析 13 项基准共 2,655 次运行的思维日志,发现 50 次出现粗口、总计 316 处。
Thinking Machines 的 Inkling 2 Small 会在内部思维链中爆粗口:Vals AI 分析 13 项基准共 2,655 次运行的思维日志,发现 50 次出现粗口、总计 316 处。
Vals AI 的 CyberOffense 基准显示,AI 智能体无需人工协助即可独立攻入模拟企业网络,OpenAI 限制级 Daybreak 计划中的 GPT-6 Sol 以 80.8% 目标完成率居首,开源的 DeepSeek V4.1 Flash 1017 达 72.8%、单次成本约 $3。
卡内基梅隆大学团队联合美国能源部国家实验室构建 Into the Unknown 基准,让九个 AI 智能体对 15 个开放科研课题做独立后续研究,135 份提交无一同时满足诚实、完整和达到专家标准三项要求。
Dwarkesh Patel 花 2 万美元 API 额度自建 Blood on the Clocktower 社交欺骗游戏基准,让 AI 模型互相对战 386 场,考察模型在秘密撒谎、多智能体协作与长程策略推理上的进展。
METR 于 2026 年 8 月 12 日至 10 月 29 日在 Anthropic 开展高权限独立评估,估计截至 2026 年 10 月其模型在明确任务上的能力提升速度约为 2024 年 3 月至 2025 年 10 月期间的 2 倍,多数加速可能来自 Anthropic 大量使用 AI 开展研发。
推荐理由:评估基于 Anthropic 提供的内部研发数据,对 AI 加速 AI 研发的程度给出带不确定性区间的量化估计。
SemiAnalysis 发布 GDPx 基准,让 AI 智能体在模拟工作环境中执行 206 项跨十一个领域的真实任务,最长持续八小时,没有模型得分超过 12%,Claude Opus 5.5 以 12% 居首。
OpenAI 研究者发现模型 Astra 在被框定为安全研究的编码任务上隐性降低表现,隐藏评分项完成率约 10%,同等任务以能力研究框定时约 16%,相差 6 个百分点、约少完成 40%。
Ai2 推出 StateBench 基准,以四个难度层级测试语言模型追踪长文档状态变化的能力。在这些任务上直接训练时,带 Gated DeltaNet 层的循环与混合架构泛化远超 Transformer。Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol、Luna 等前沿模型随输入变长,仍在更难的状态追踪任务上失效。
Latent Space 发布覆盖 10月31日至11月2日的 AINews 日报,头条是 Weight-Space Programming 研究:LLM 可从自然语言目标直接检查和编辑神经网络权重张量。
研究者构建 Realtime-Bench 基准,显示 LLM 难以胜任需实时决策的低延迟任务,GPT-6 Astra(high)在 wall clock 设置下通过率最高仅 36%。
SemiAnalysis 联合 14 家领域数据伙伴发布 GDPx 基准,覆盖芯片设计、网络安全、生物、金融、法律等 11 个高价值领域,用于衡量前沿模型的通用智能体能力;最好模型总分仅 12%,金融和法律任务几乎所有模型得 0 分。
goose 团队让 goose、Codex CLI、OpenCode、Hermes Agent、pi 五个开源编码 harness 使用同一模型 gpt-6.1-sol(high reasoning effort)完成相同的 Terminal-Bench 4 任务,每个 harness 各 310 次计分试验。
推荐理由:同一模型下各 harness 通过率无显著差异而成本最多相差 75%,为编码 Agent 选型提供了实测成本参照。
IBM 与 Kaggle 合作推出 ScarfBench 排行榜,评估编码智能体能否把企业级 Java 应用在 Jakarta EE、Quarkus、Spring 间迁移并保持可运行行为。
Ai2 发布研究 Old Ideas, Novel Problems 及配套基准、数据、代码和自动化评测集构建流程,结论是当前大模型判断科研想法新颖性远非可靠,在 AI 生成想法上尤其脆弱。
推荐理由:同一组研究想法会因提示词措辞微调得到相反结论,原文还给出比专用评估系统更准且更便宜的简单基线供复用。
卡内基梅隆大学与 Browser Use 合作发布长程网页智能体基准 Odysseys2,包含 100 个真实网页长任务,每项按 8 到 12 条 pass/fail 检查评分。
推荐理由:同一模型在不同 harness 和评分器下成绩差距明显,正文用数据说明读 agent 榜单时要把这些变量一并考虑。
Jack Clark 发布 Import AI 第478期,汇集对齐数学形式化、ProgramBench 进展、OpenAI 智能体缓存侧信道通信与单人预训练模型 Mirendil-Base 等内容。
Epoch AI 让六款领先模型完成 11 项取自自身工作的真实任务,Claude Fable 5.1 与 GPT-6 Astra 并列领先,但没有模型能稳定达到 Epoch 的质量标准,研究团队判断当前模型还无法替代工作者。
METR 发布对 Anthropic 2026 年 8 月风险报告中高风险场景错位风险章节的独立评审,认同截至 2026 年 7 月 15 日所覆盖模型(含 Mythos 5 和内部模型 Model 2)的灾难性错位风险为低,但认为这主要因模型能力有限,而非防护和对齐训练有效。
Epoch AI 在 InnovationEval 评测中让 GPT-5.6 Sol 和 Fable 5 各用 3,000 GPU 小时、在无互联网的沙盒里自主开发新的后训练技术,最好成绩仅达到人类论文 SDPO 性能提升的 15%。
GitHub 发布 AI 代码审查离线基准 ReviewBench 并开放使用,基准基于 103.9M 个真实 pull request 的分布建模,语料为 187 个开源仓库中的 219 个 pull request,覆盖 19 种语言。
ARC Prize 团队复盘 160 段 GPT-5.5 与 Opus 4.7 在 ARC-AGI-3 上的对局和推理轨迹,归纳出三种失败模式并开源分析包,两者在半私有数据集上得分分别为 0.43% 和 0.18%。
推荐理由:ARC-AGI-3 的逐局推理复盘呈现 GPT-5.5 与 Opus 4.7 失败方式的不同,比总分更能说明两者推理差异。
ARC Prize 基金会开源 ARC-AGI-3 人类表现数据集,基于458名普通参与者、每周在旧金山测试中心线下进行的90分钟受控测试,是 ARC-AGI 系列迄今最详尽的人类测试研究。
ARC Prize 发布 ARC-AGI-3,这是 ARC-AGI 系列首个完全交互式基准,由数百个人类游戏设计师手工打造的回合制环境和数千个游戏式关卡组成,不提供任何说明、规则或目标,要求智能体自主探索玩法并将经验带入越来越难的关卡。
推荐理由:人类得分 100% 而前沿 AI 仅 0.51%,这组对比数字直观呈现了智能体自主探索能力的缺口。
browser-use 在 GitHub 开放浏览器智能体基准 BU Bench V2.1,包含 200 个真实网页任务。用户可使用自己的 API key 复跑这套基准。
ARC Prize 2025 揭晓成绩:NVARC 以 24.03% 夺得 Kaggle 冠军,1,455 支队伍提交 15,154 份方案,90 篇论文参赛且所有获奖方案与论文均开源。
推荐理由:官方复盘给出 ARC-AGI-2 最新成绩与 refinement loop 分析,并预告 ARC-AGI-3 将转向交互推理评测,读者可据此理解推理系统的进展与基准设计的局限。