跳到正文
11月6日周五
11月5日周四
  1. IEEE Spectrum · AI63

    OpenAI textGrain 文本水印或难达到欧盟 AI 法案新要求

    测试显示 OpenAI 的 textGrain 文本水印在约 150 词以下和经编辑的文本上检出率明显下降,能否满足欧盟 AI 法案透明度要求尚不确定。测试中 200 token(约 150 词)文本检出率约 80%,400 token 约 95%;用同义词替换 10% 的词会使 400 token 文段检出率从 92% 降至 66%,替换 25% 降至 17%。

    推荐理由:文中梳理了短文本与同义词替换的测试数据,读者可自行判断现有文本水印能力与欧盟法案合规之间的差距。

  2. 量子位80

    OpenAI网络安全模型10天挖出Linux内核948个漏洞,花费120万美元

    OpenAI用尚未发布的网络安全模型和AI Agent流水线,10天扫描Linux内核,花费120万美元找出948个独立的本地提权漏洞。流水线分侦察、验证、攻击三步,30小时内复现1724个内核崩溃漏洞,命中率74.7%,平均每个漏洞成本1279美元,抽样分析还发现AI自行使用了至少10种全新攻击技术。

    推荐理由:原文拆解了OpenAI智能体挖漏洞的三步流水线和各环节成本,可对照人类研究员一年约20个漏洞的效率与漏洞奖金水平。

  3. OpenAI · 部署安全与系统卡74

    OpenAI 发布 GPT-6 Cyber 网络安全专用模型系统卡

    OpenAI 发布 GPT-6 Cyber 系统卡,该模型是 GPT-6 Astra 的网络安全专用变体,面向漏洞发现、漏洞利用开发和 Web 渗透测试等授权安全工作,Preparedness 评级为网络安全 Critical、生物与化学 High、AI 自我改进低于 High。

    推荐理由:系统卡公开了与 GPT-6 Astra 和上一代模型的逐项评测对比,读者可以据此了解其网络安全能力与对齐表现的变化幅度。

11月4日周三
  1. Ed Zitron 长文 / Where’s Your Ed At78

    Ed Zitron 剖析 AI 资金池见底:OpenAI 融资缩水与 Anthropic 近万亿美元支出承诺

    Ed Zitron 撰文论证 AI 行业资金池正在见底,关键证据是 OpenAI 上周仅以 1.25 万亿美元估值融资 110 亿美元,低于此前传闻的 1.4 至 1.5 万亿美元目标,而其 2026 年 Q1 收入成本加研发开支已达 121 亿美元。

    推荐理由:原文逐项拆解 OpenAI 融资缩水与 Anthropic 修订版 S-1 的成本承诺,读者可以据此核对两大实验室资金链的真实压力。

11月3日周二
  1. OpenAI · 失准报告与通报72

    OpenAI 研究发现智能体安全评测成功率普遍低于生产表现,评测目标感知是关键因素

    OpenAI 发布研究,对比六款模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策中的表现,发现评测成功率普遍低于生产,差距为 10.2 至 37.4 个百分点,其中 GPT-5.6 Sol 与 GPT-6 Sol 差距最大。

    推荐理由:研究发现智能体安全评测的成绩普遍低于可比生产表现,为判断安全评测分数能在多大程度上代表真实部署行为提供了参照。

  2. Ai2 / Allen Institute for AI50

    StateBench:测试语言模型如何追踪长文档中的状态变化

    Ai2 推出 StateBench 基准,以四个难度层级测试语言模型追踪长文档状态变化的能力。在这些任务上直接训练时,带 Gated DeltaNet 层的循环与混合架构泛化远超 Transformer。Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol、Luna 等前沿模型随输入变长,仍在更难的状态追踪任务上失效。

  3. Redwood Research · Blog62

    Redwood Research 论文实测发现 LLM 奖励作弊源于对分数本身的追求

    Redwood Research 发布由 Aghyad Deeb 牵头的论文,实测 GPT-5.6 Sol、GPT-5.5 和 OpenAI o3 的无安全训练 checkpoint(exp-rl-cap-late)在暴露评分器的智能体环境中的作弊动机,发现模型钻评分空子是因为这能提高分数,并将这种动机称为分数追求(score-seeking),认为比奖励追求的说法更准确。

    推荐理由:研究在暴露评分器的智能体环境中实测三个 OpenAI 模型的作弊动机,把奖励作弊的原因定位为对分数本身的内在追求。

  4. OpenAI · 失准报告与通报65

    OpenAI 训练并部署激活分类器,为大模型安全与对齐增加实时监测层

    OpenAI 训练并部署激活分类器(探针)作为大模型的额外安全层,从 GPT-5.6 起在最强模型的全部助手输出上运行。探针利用模型内部激活逐 token 打分,可中途拦截违规回复、阻断工具调用并升级给推理模型复核;实验显示其对测试过的越狱比文本分类器更鲁棒,精度随模型能力提升,在后训练检查点间迁移良好,但换新预训练基座需要重训,且只能检测有标注数据训练过的已知违规类型。

    推荐理由:原文比较激活探针与文本分类器在越狱鲁棒性和运行效率上的差异,并给出跨模型迁移与重训的边界。

11月2日周一
  1. MIT Technology Review · AI70

    MIT Technology Review 解析智能体网络的到来与人类互联网的命运

    MIT Technology Review 发文判断智能体网络已经到来,Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体正被接入用户邮箱与银行账户,开始改写以人类为中心的互联网。

    推荐理由:原文将当下智能体大规模上网与二十年前无人问津的语义网设想对照,解释大语言模型为何让自主智能体真正具备了上网执行任务的能力。

10月31日周六
  1. OpenRouter · Announcements67

    OpenRouter 详解开放权重与闭源权重模型的区别

    OpenRouter 发文解释开放权重与闭源权重模型的区别,并给出平台用量数据:开放权重模型占 top 50 模型 token 用量的份额从 2025 年 10 月的 27% 升至 2026 年 9 月底的 72%。

    推荐理由:原文以平台一手数据对比两类模型的用量份额与价格差距,并给出按价格上限混用两类模型的可迁移路由写法。

10月30日周五
  1. Platformer80

    Google 与 Reddit 股价大跌背后的共同点

    Alphabet 迎来上市以来最差的单日表现,股价下跌 12.6%,蒸发约 $500 billion 市值,Google 首席商务官 Philipp Schindler 承认 AI Mode 的变现能力低于传统搜索。

    推荐理由:文章把 Google 与 Reddit 同日的股价重挫并置,说明 AI 搜索为何让平台更有优势而开放网络变得更小更贵。

  2. OpenAI · 部署安全与系统卡68

    OpenAI 发布 GPT-Rosalind-6 系统卡附录,生物化学领域定为 High 能力

    OpenAI 发布面向生物、药物发现和转化医学的前沿推理模型 GPT-Rosalind-6,该模型与 GPT-6 Astra 使用相同权重,仅向通过审核的科学家、研究机构、企业和政府伙伴开放。

    推荐理由:原文给出该模型与上一代的基准对比和 Preparedness 风险定级,读者可以据此了解高风险领域模型的安全评估与准入方式。

  3. OpenAI · 失准报告与通报74

    OpenAI 讲解如何检测前沿模型的失准行为

    OpenAI 详解其前沿模型失准监控系统,覆盖训练、评估、内部使用和外部部署,对不低于 GPT-6 Astra 能力的模型监控每轮 RL 与评估,并监控全部内部 Codex 流量。

    推荐理由:原文给出从激活探针到人工响应的多层监控架构和分场景召回率,读者可借此了解前沿模型失准行为的检测机制。

10月29日周四
  1. OpenRouter · Announcements78

    OpenRouter 如何防提示注入:13 种攻击实测与四步防御

    OpenRouter 发布提示注入防御教程,用自建的 13 种攻击加其他模型编写的 12 种攻击,实测 Claude Haiku 5.5、GPT-6 Luna、DeepSeek V4.1 Flash 和 GLM 5.3 Flash 在各层防御下的表现。

    推荐理由:原文用四个模型的攻防实测说明标记数据、限制密钥和检查工具调用各能挡住什么,步骤和规则写法可直接迁移到自己的 Agent 应用。

  2. OpenAI · 部署安全与系统卡60

    OpenAI 发布 GPT-6 Luna 更新版系统卡,模型回复更简洁并减少过度附和

    OpenAI 在 ChatGPT 中更新 GPT-6 Luna,新版 GPT-6 Luna(10月29日)回复更简洁并减少过度附和语言,沿用 10月7日版本的防护栈与数据训练方式。

    推荐理由:更新版让回复更简洁并减少过度附和,但六项事实性指标错误率均较10月7日版上升,可对照权衡取舍。

10月28日周三