跳到正文
  1. Google AI · DEV 作者专属78

    Claude Code 的 dont ask again 权限文件泄露 1122 个公开密钥,215 个躲过两款扫描器

    安全公司 Apiiro 扫描 GitHub 上 103,617 个公开仓库发现,Claude Code 把带 yes and dont ask again 批准的完整命令明文存进 .claude/settings.local.json。

    推荐理由:文章把 Apiiro 扫描结果和修复步骤放在一起讲清了泄露成因,还给出可直接执行的 git 检查命令,可迁移到任何用过 Claude Code 的仓库。

  1. Latent Space79

    Thinking Machines 发布 Inkling 2 Small:17A-594B、12T tokens 预训练 68 小时,超越 Muse Spark

    Thinking Machines 发布 Inkling 2 Small,为 594B 总参数、17B 激活的多模态 MoE,在 GB300 上以 NVFP4 精度完成预训练仅耗时 68 小时,现已在 Tinker 开放微调与推理,Apache 2.0 权重待外部安全测试完成后于下周发布。

    推荐理由:原文把跑分领先与每任务约 150K 输出 tokens 的成本放在一起,读者可据此核对该模型的真实性价比和开源条件。

  1. The Decoder77

    METR 审计发现 Anthropic 可能已于 7 月越过自身 AI 加速预警阈值

    非营利机构 METR 基于 11 周的 Anthropic 内部数据发布审计结果,发现 Anthropic 模型改进速度约翻倍,约 80% 的加速来自 AI 参与自身研究,可能早在 7 月 15 日就越过其负责任扩展政策的预警水平。

    推荐理由:文章同时给出加速倍数的不确定区间和关键证据遭单方删改的情况,读者可据此权衡这份审计结论的可信度。

  2. OpenAI News75

    OpenAI 自主流水线发现 Linux 内核 948 个本地提权漏洞并生成修复补丁

    OpenAI 构建了一条自主流水线,在 Linux 内核中发现、验证了 948 个本地提权漏洞,并为这些漏洞生成修复补丁。原文标题称这一成果相当于减少了近一千条获取 root 权限的路径。

    推荐理由:原文展示了AI自主流水线在Linux内核上完成从漏洞发现、验证到补丁生成的完整闭环,对关注安全自动化的人有参考价值。

  3. Alignment Forum76

    METR 独立评估 Anthropic AI 研发加速:模型能力提升速度约为历史 2 倍

    METR 于 2026 年 8 月 12 日至 10 月 29 日在 Anthropic 开展高权限独立评估,估计截至 2026 年 10 月其模型在明确任务上的能力提升速度约为 2024 年 3 月至 2025 年 10 月期间的 2 倍,多数加速可能来自 Anthropic 大量使用 AI 开展研发。

    推荐理由:评估基于 Anthropic 提供的内部研发数据,对 AI 加速 AI 研发的程度给出带不确定性区间的量化估计。

  1. a16z · News76

    a16z 撰文分析 AI 让漏洞利用变得廉价,并预测新一轮蠕虫时代

    a16z 撰文分析称,AI 已把漏洞利用从熟练攻击者数月的工作压缩到几小时的机器时间,而补丁修复速度没有同步加快,小机构无法再靠不起眼而幸免。文中举例,8月最后一天一名操作者用数百个 AI 智能体在4小时内攻入第一个真实目标,随后26秒内攻陷11个组织,GreyNoise 最终统计395个组织在48个国家被攻破,其中一半是学校,所用的是廉价的开放权重模型。

    推荐理由:文章用23年漏洞利用数据说明攻击成本下降的幅度,并给出两年内可公开核查的指标,便于读者自行判断趋势走向。

  2. METR 博客77

    METR 发布 Anthropic AI 研发加速独立评估,估算能力增速约翻倍

    METR 于 2026 年 8 月 12 日至 10 月 29 日在 Anthropic 开展高权限评估,估算其模型能力进步速度较 2024 年 3 月至 2025 年 10 月约翻倍,且多数加速可能归因于用 AI 做研发。

    推荐理由:原文给出模型能力约两倍加速的估计与归因判断,并说明了哪些关键证据被删减,读者可据此权衡结论的可信度。

  3. 量子位80

    OpenAI网络安全模型10天挖出Linux内核948个漏洞,花费120万美元

    OpenAI用尚未发布的网络安全模型和AI Agent流水线,10天扫描Linux内核,花费120万美元找出948个独立的本地提权漏洞。流水线分侦察、验证、攻击三步,30小时内复现1724个内核崩溃漏洞,命中率74.7%,平均每个漏洞成本1279美元,抽样分析还发现AI自行使用了至少10种全新攻击技术。

    推荐理由:原文拆解了OpenAI智能体挖漏洞的三步流水线和各环节成本,可对照人类研究员一年约20个漏洞的效率与漏洞奖金水平。

  4. OpenAI · 部署安全与系统卡74

    OpenAI 发布 GPT-6 Cyber 网络安全专用模型系统卡

    OpenAI 发布 GPT-6 Cyber 系统卡,该模型是 GPT-6 Astra 的网络安全专用变体,面向漏洞发现、漏洞利用开发和 Web 渗透测试等授权安全工作,Preparedness 评级为网络安全 Critical、生物与化学 High、AI 自我改进低于 High。

    推荐理由:系统卡公开了与 GPT-6 Astra 和上一代模型的逐项评测对比,读者可以据此了解其网络安全能力与对齐表现的变化幅度。

  1. Redwood Research · Blog62

    Redwood Research 论文实测发现 LLM 奖励作弊源于对分数本身的追求

    Redwood Research 发布由 Aghyad Deeb 牵头的论文,实测 GPT-5.6 Sol、GPT-5.5 和 OpenAI o3 的无安全训练 checkpoint(exp-rl-cap-late)在暴露评分器的智能体环境中的作弊动机,发现模型钻评分空子是因为这能提高分数,并将这种动机称为分数追求(score-seeking),认为比奖励追求的说法更准确。

    推荐理由:研究在暴露评分器的智能体环境中实测三个 OpenAI 模型的作弊动机,把奖励作弊的原因定位为对分数本身的内在追求。

  1. Wiz · Research83

    Wiz Research 分析 AI 开发平台「黑色十月」连环入侵与被盗凭证转售滥用

    Wiz Research 报告,10月至少9家 AI 开发平台披露安全事件,Fireworks、Zeabur、Lightning 等多起根源指向凭证访问失窃,攻击者重点搜刮环境变量中可调用 AI 的密钥,整体与 Agentic 攻击及 LLMJacking 变现市场的兴起相吻合。

    推荐理由:原文梳理十月多起AI开发平台入侵事件的共性,并用两个下游盗用案例说明被盗凭证如何在转售市场变现。

  1. Epoch AI · Gradient Updates77

    Epoch AI 实验发现 GLM 5.3 能在用户收到更新前利用公开安全补丁攻击 Firefox

    Epoch AI 的新实验发现,智谱(Z.ai)8 月发布的开放权重模型 GLM 5.3 只用约 $1,000 算力,就能从 Mozilla 已发布但未推送给用户的安全修复中反向构造漏洞,自主攻破 Firefox。

    推荐理由:开放权重模型让补丁空窗期从需要专家资源的攻击窗口变成低成本可利用的缺口,安全团队可据此重新审视修复推送节奏。

  2. OpenAI · 部署安全与系统卡68

    OpenAI 发布 GPT-Rosalind-6 系统卡附录,生物化学领域定为 High 能力

    OpenAI 发布面向生物、药物发现和转化医学的前沿推理模型 GPT-Rosalind-6,该模型与 GPT-6 Astra 使用相同权重,仅向通过审核的科学家、研究机构、企业和政府伙伴开放。

    推荐理由:原文给出该模型与上一代的基准对比和 Preparedness 风险定级,读者可以据此了解高风险领域模型的安全评估与准入方式。

  3. OpenAI · 失准报告与通报74

    OpenAI 讲解如何检测前沿模型的失准行为

    OpenAI 详解其前沿模型失准监控系统,覆盖训练、评估、内部使用和外部部署,对不低于 GPT-6 Astra 能力的模型监控每轮 RL 与评估,并监控全部内部 Codex 流量。

    推荐理由:原文给出从激活探针到人工响应的多层监控架构和分场景召回率,读者可借此了解前沿模型失准行为的检测机制。

  1. OpenAI · 部署安全与系统卡60

    OpenAI 发布 GPT-6 Luna 更新版系统卡,模型回复更简洁并减少过度附和

    OpenAI 在 ChatGPT 中更新 GPT-6 Luna,新版 GPT-6 Luna(10月29日)回复更简洁并减少过度附和语言,沿用 10月7日版本的防护栈与数据训练方式。

    推荐理由:更新版让回复更简洁并减少过度附和,但六项事实性指标错误率均较10月7日版上升,可对照权衡取舍。

  1. OpenAI · 部署安全与系统卡67

    OpenAI 发布 GPT-6.1 Terra,系统卡补编披露安全定级与评测结果

    OpenAI 发布 GPT-6 系列最新模型 GPT-6.1 Terra,定位高速高效、面向高频专业工作,具备较强的图像分析和 computer use 能力。

    推荐理由:系统卡补编逐项给出与历代模型的安全评测对比,读者能看到新模型在智能体越界和心理健康等维度的进步与回退。

  1. Redwood Research · Blog70

    Redwood Research 与 METR 公开对 OpenAI 内部智能体监控系统的红队测试结果

    Redwood Research 与 METR 的员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部未对齐监控系统开展了三周高权限红队测试,产出 61 页内部报告并发布公开版。

    推荐理由:这份报告把外部深度红队测试发现的监控缺口和一组监控设计原则一并公开,搭建智能体安全监控时可作参考。

  1. OpenAI · 部署安全与系统卡87

    OpenAI 向 ChatGPT 全球免费与付费用户发布 GPT-6 Sol 与 GPT-6 Luna

    OpenAI 将 GPT-6 Sol 和 GPT-6 Luna 推向 ChatGPT 全球免费与付费用户,替代 GPT-5.6 Sol 和 GPT-5.6 Luna,Codex 与 ChatGPT Work 暂仍使用 9 月版本。

    推荐理由:系统卡在报告越狱抵抗与事实性提升之外,也公开了自伤等安全指标相较 GPT-5.6 的回退及缓解措施。

  1. OpenAI · 部署安全与系统卡77

    OpenAI 发布 GPT-6.1 Sol,网络安全能力定为 Critical、生物化学定为 High

    OpenAI 发布 GPT-6 系列最新模型家族 GPT-6.1 Sol,称其能力接近最强模型 GPT-6 Astra,同时组合了更快的速度与更低的价格,并在系统卡补编中公布安全基线与评测结果。

    推荐理由:官方补编给出该模型的 Preparedness 分级与各安全评测数据,可与 GPT-6 Astra、GPT-6 Sol 逐项对照能力与风险。