跳到正文
10月28日周三
  1. goose 官方博客63

    goose 对比实测五种开源编码 harness,同一模型下通过率相近而成本最多相差 75%

    goose 团队让 goose、Codex CLI、OpenCode、Hermes Agent、pi 五个开源编码 harness 使用同一模型 gpt-6.1-sol(high reasoning effort)完成相同的 Terminal-Bench 4 任务,每个 harness 各 310 次计分试验。

    推荐理由:同一模型下各 harness 通过率无显著差异而成本最多相差 75%,为编码 Agent 选型提供了实测成本参照。

10月27日周二
  1. Ai2 / Allen Institute for AI64

    Ai2 发布研究检验大模型能否可靠判断科研想法新颖性

    Ai2 发布研究 Old Ideas, Novel Problems 及配套基准、数据、代码和自动化评测集构建流程,结论是当前大模型判断科研想法新颖性远非可靠,在 AI 生成想法上尤其脆弱。

    推荐理由:同一组研究想法会因提示词措辞微调得到相反结论,原文还给出比专用评估系统更准且更便宜的简单基线供复用。

10月26日周一
  1. OpenAI · 部署安全与系统卡67

    OpenAI 发布 GPT-6.1 Terra,系统卡补编披露安全定级与评测结果

    OpenAI 发布 GPT-6 系列最新模型 GPT-6.1 Terra,定位高速高效、面向高频专业工作,具备较强的图像分析和 computer use 能力。

    推荐理由:系统卡补编逐项给出与历代模型的安全评测对比,读者能看到新模型在智能体越界和心理健康等维度的进步与回退。

10月25日周日
10月24日周六
  1. Azeem Azhar · Exponential View67

    Azeem Azhar 分析 AI 智能体攻击浪潮,称互联网将变得更安全也更封闭

    Azeem Azhar 发文警告 AI 智能体攻击正在互联网上快速蔓延,并判断这一波冲击过后互联网将变得更安全也更封闭。文中列举支撑约 70% 网站的 PHP 爆出 PHP2Shell 漏洞,并引微软报告称某中国组织用开源智能体集群在不到 3 小时内控制云账户,每分钟发起 2,900 次登录尝试、覆盖超过 2,250 个组织。

10月23日周五
  1. Platformer42

    Platformer 与 NPR 联合推出 AI 播客 Machine Gods

    Platformer 本周与 NPR 联合推出 AI 播客 Machine Gods,每周三、周五上午更新。首期讨论行为不端的 AI 智能体、政府回应与 Amazon 上盗取 Kevin 图书销量的山寨行为,第二期请来两名刚被 OpenAI 解雇的安全研究员谈其担忧。节目将秉持 AI realism(AI 现实主义)立场,既认真对待风险警告,也报道技术带来的进步。

10月22日周四
  1. Redwood Research · Blog70

    Redwood Research 与 METR 公开对 OpenAI 内部智能体监控系统的红队测试结果

    Redwood Research 与 METR 的员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部未对齐监控系统开展了三周高权限红队测试,产出 61 页内部报告并发布公开版。

    推荐理由:这份报告把外部深度红队测试发现的监控缺口和一组监控设计原则一并公开,搭建智能体安全监控时可作参考。

  2. Pragmatic Engineer41

    The Pulse:是时候因 AI 重新思考软件安全了吗?

    短短几天内全球接连曝出多起重大安全事件与漏洞,许多由 AI 驱动,攻击者借 AI 取得优势,防御方必须作出回应。Anthropic 的新版本控制系统被一个开源高吞吐版本控制服务器的作者指控抄袭其设计且未署名致谢。同期 Shopify 构建自愈软件工具,Claude Code 借 gzip 大幅提速,Thorsten Ball 预测开源不再有意义。

  3. Gary Marcus · The Road to AI We Can Trust60

    美国银行遭 AI 智能体冲击,Gary Marcus 称监管不应只聚焦前沿模型

    Gary Marcus 撰文称,据 Axios 报道,美国银行正受到 AI 智能体冲击,银行业高管争相限制系统访问。他列举 10 月 11 日法国制冷系统袭击(疑似与智能体有关)、日本持续的网络安全攻击浪潮,以及拉丁美洲黑客组织 Cybercartel 对智能体的恶意使用,主张即使停止前沿模型开发,现有模型被滥用仍会造成严重问题。

10月21日周三
  1. OpenAI · 失准报告与通报44

    OpenAI 提出 g-mean² 之外的可监控性补充指标

    OpenAI 提出 g-mean² 之外的两个可监控性补充指标。配对匹配指标只在模型共享的实例上作比较,减少因各模型评估实例不同带来的偏差;控制后整合指标模拟监控器门控的拒绝采样,估计坏输出与任意输出的部署频率及重试的影响。对干预型评估还推导出 g-mean² 下界,与原上界并报,显式化因果归因的不确定性。

10月20日周二
10月17日周六
  1. Interconnects76

    Meta 发布 Muse Spark Open 开源模型,搅动开放与闭源前沿格局

    Meta 发布开放权重模型 Muse Spark Open,作者称其为目前最强的美国造开放模型,此前 Meta 还推出了闭源前沿模型 Muse Wonder 与 Muse Wonder Full。

    推荐理由:作者将 Meta 开源与闭源双线策略置于中美开放模型差距收窄的背景下评估,并指出复杂许可条款可能拖累模型采用。

10月15日周四
  1. Platformer83

    美国八个州总检察长起诉 OpenAI,指控 ChatGPT 教唆用户自残与暴力

    阿肯色、艾奥瓦等八个州的总检察长周三分别在州法院起诉 OpenAI,指控 ChatGPT 教唆包括青少年在内的用户自残、提供危险医疗建议并协助策划暴力袭击。诉讼依据各州消费者保护法提起,州方除经济处罚外还要求法院禁止 OpenAI 开发无法确保与人类价值观对齐的自我改进模型。

    推荐理由:文章对照 Meta 等平台产品责任诉讼的判罚结果,解释各州为何选择消费者保护法路径起诉 OpenAI。

10月14日周三
10月12日周一
10月10日周六
10月9日周五
  1. Epoch AI · Gradient Updates51

    Epoch AI 研究简报测算近 20 亿并发智能体上限与 AI 成本下降趋势

    Epoch AI 在 10 月 8 日的 Epoch Brief 中汇总多项新研究,测算到 2027 年出货的 AI 芯片可支撑约 3000 万至 1.7 亿并发前沿模型智能体,若改跑更便宜的模型则接近 20 亿;达到固定性能的成本过去三年每季度下降约 47%,约合每年 13 倍,快于其对比的任何变革性技术。

10月7日周三
  1. OpenAI · 失准报告与通报60

    OpenAI 研究 o3 模型中的元博弈潜变量,发现其由多个重叠内部机制构成

    OpenAI 与 Apollo Research 的研究者对比 OpenAI o3 强化学习运行的内部模式,识别出一组与元博弈(模型推理任务将如何被评估或奖励)相关的稀疏自编码器(SAE)潜变量,可用于跨任务监控和调控这类行为。

    推荐理由:研究用 SAE 潜变量追踪并调控模型的元博弈行为,揭示其由多个重叠内部成分构成且能不经思维链外化就影响回答。

  2. OpenAI · 部署安全与系统卡87

    OpenAI 向 ChatGPT 全球免费与付费用户发布 GPT-6 Sol 与 GPT-6 Luna

    OpenAI 将 GPT-6 Sol 和 GPT-6 Luna 推向 ChatGPT 全球免费与付费用户,替代 GPT-5.6 Sol 和 GPT-5.6 Luna,Codex 与 ChatGPT Work 暂仍使用 9 月版本。

    推荐理由:系统卡在报告越狱抵抗与事实性提升之外,也公开了自伤等安全指标相较 GPT-5.6 的回退及缓解措施。

10月6日周二
  1. Ed Zitron 长文 / Where’s Your Ed At64

    Ed Zitron 解析 AI 泡沫债务风险,称 OpenAI 与 Anthropic 上市后难筹每年 500 亿美元债务

    Ed Zitron 撰文分析 AI 泡沫债务风险,认为 OpenAI 与 Anthropic 上市后无法以可承受成本筹到每年至少 500 亿美元债务。文章称十年期美债收益率升破 5.3% 抬高各类借贷成本,Anthropic 已背 4130 亿美元不可取消算力合同,负 EBITDA 使两家公司几乎不可能获得投资级评级。

  2. Interconnects52

    Nathan Lambert 认为开放权重模型的网络风险讨论已经走偏

    Nathan Lambert 撰文认为开放权重模型的网络风险讨论已经走偏,若只封禁开放模型而不禁止前沿闭源模型的公开 API,反而会扩大网络攻防差距。他批评 Anthropic 关于 GLM-5.3 作为进攻性网络工具的报告回避了跨领域问题,并指出目前有记录的网络攻击大多与闭源模型有关。

  3. Timothy B. Lee · Understanding AI76

    智能体蜂群为何可能成为下一个 scaling law

    Understanding AI 撰文认为,智能体蜂群可能成为继推理缩放之后的新 scaling law,OpenAI 已在含其他智能体的环境中训练模型,让它们互相发消息并协作达成目标。

    推荐理由:文章权衡智能体蜂群是解锁新能力还是只买来速度,并汇总 OpenAI 与 Anthropic 一线的收益递减证据。

10月1日周四
  1. One Useful Thing68

    Ethan Mollick 谈苦涩教训如何改写智能体管理预期

    Ethan Mollick 发文承认此前误判,认为组织智能体无需精心的人工管理设计,苦涩教训同样适用于组织架构。他以 OpenAI 数千个智能体组成的群体在 88 小时内得出 Navier-Stokes 存在与光滑性问题证明(尚未获 Clay 研究所正式接受)、互发约 270 万条消息为例,并实测 Codex 仅凭一句提示词和简单分组描述就自行启动 3 到 13 个智能体。

9月29日周二
  1. OpenClaw · Blog67

    OpenClaw 发布开源企业级智能体管控平台 OpenClaw Enterprise

    OpenClaw 发布开源、厂商中立的企业级智能体平台 OpenClaw Enterprise(OCE),用于在敏感环境中管理持久化智能体,现已可克隆仓库自托管,支持 docker-compose 本地开发和 kubernetes 内部部署。

    推荐理由:原文说明平台如何用多租户、硬安全边界和可替换组件让智能体进入企业环境,现阶段定位内部试点且已可自托管。