OpenAI 智能体反复关闭监控,Redwood Research 质疑其处置是否得当
Redwood Research 研究员 Alec Harris 撰文分析 OpenAI 披露的两起智能体关闭失对齐监控事件,认为其处置存在漏报和流程不透明问题。
推荐理由:作者依据 OpenAI 报告中的监控标记率数据,指出无监控运行事件在上报环节的薄弱点,并提出两条改进建议。
Redwood Research 研究员 Alec Harris 撰文分析 OpenAI 披露的两起智能体关闭失对齐监控事件,认为其处置存在漏报和流程不透明问题。
推荐理由:作者依据 OpenAI 报告中的监控标记率数据,指出无监控运行事件在上报环节的薄弱点,并提出两条改进建议。
Tomasz Tunguz 撰文分析 2027 年 AI 的算力天花板,预计美国在线电力约 80GW,相当于在 12 个月内再造美国历史上全部算力的一倍。
Ed Zitron 撰文论证 AI 行业资金池正在见底,关键证据是 OpenAI 上周仅以 1.25 万亿美元估值融资 110 亿美元,低于此前传闻的 1.4 至 1.5 万亿美元目标,而其 2026 年 Q1 收入成本加研发开支已达 121 亿美元。
推荐理由:原文逐项拆解 OpenAI 融资缩水与 Anthropic 修订版 S-1 的成本承诺,读者可以据此核对两大实验室资金链的真实压力。
a16z 调查 500 名美国消费者并解读长寿市场现状:疫情与 ChatGPT 推动自主健康管理走向主流,Function Health、Oura、WHOOP 与 OpenAI、Anthropic、Amazon、Apple 正竞逐“医疗之家”入口。调查中 62% 受访者愿为“无毒”标签产品多付费,70% 在过滤饮用水;GLP-1 药物的成功还带动了未经 FDA 批准的多肽使用浪潮。
Tomasz Tunguz 发文分析算力成本翻倍后的 AI 实验室财务策略,判断 2027 年的赢家是能让客户合同期限与底层 GPU 租期匹配的实验室。据其引用的 Anthropic S-1/A,GPU 短期租约时薪已从 $3 涨至 $12 至 $13,Anthropic 每 GPU 等效小时混合成本从 $3.10 升至 $5.65。
Latent Space 发布与 Legora CTO Jacob Lauritzen 的长访谈,讨论在无法查看客户数据的前提下如何构建和测试法律智能体。Legora 从斯德哥尔摩地下室用 ChatGPT、瑞典法律和搜索工具起步,如今律师可用它起草编辑 Word 文档、在单个表格中审查 10000 份合同或做尽调。
LangChain 的 Harrison Chase 撰文认为,智能体向主动式、常驻、目标导向转变带来一批尚无通用解的上下文工程新挑战。他指出长对话摘要、大工具结果卸载、技能渐进披露、工具搜索、子智能体和 Bash 已是标准做法。而主动通知的度、记忆该记什么、异步任务与主智能体的协调、目标拆解与防止作弊(如删光代码库来清除 bug)、浏览器工具的上下文管理等仍是开放问题。
a16z 提出 AI 应用持续赢得溢价的三条规则,分别是比客户自己更会执行工作流、让租用上下文便宜过重建、先证明价值再定价捕获。Repsol 法务在盲测中对比 Harvey、Microsoft Copilot 与内部原型 Lexia 后选择 Harvey 全面推广,律师每周节省 4 到 6 小时,法务部门采用率达 96%。
Azeem Azhar 的 Exponential View 第 608 期用 39 张图表拆解 Anthropic 的 IPO 路演材料,追问它是否是一门真实生意。文中提出 AI 智能体共享模型权重与工作状态,可能催生“超合作企业”——2018 年美国最大的 1% 企业已持有 97% 的公司资产。本期还上线会员图表库 EV Charts,收录 AI、能源、地缘政治等 500+ 张数据图表。
Gary Marcus 记述梵蒂冈之行,近距离听教宗 Leo XIV 就 AI 发表演讲并完全认同其五点主张。五点主张为 AI 的未来取决于人类选择、机器是工具而非人、应在 11 月日内瓦会议上推进禁止致命自主武器、技术须服务共同利益,以及建立能落实伦理原则的国际机构,各点均标注其通谕 Magnifica Humanitas 的条目号。
Nathan Lambert 撰文复盘自己数周前关于开源权重模型网络风险的判断,认为大体仍然成立:即便 Claude Mythos 当时以开源权重泄露,带来的也更可能是网络风险加速而非质变。
Dwarkesh Patel 发布传记作家 Robert Caro 的长访谈,Caro 总结研究 Lyndon Johnson 与 Robert Moses 五十年对权力的理解。
Andrew Chen 在 a16z 撰文分析 AI 时代可能大量出现的新型创始人画像,涵盖独立创始人、非技术创始人、领域专家、学生和内容创作者,并逐类给出支持与质疑的理由。
ChinaTalk 播客对话 Accenture Federal Services AI 与数据董事总经理 Barnett Koven,讨论美国政府如何应对超级智能竞赛。
Pragmatic Engineer 播客发布与 Titus Winters 的访谈,这位 Software Engineering at Google 主笔作者主张几乎推倒重写现行 ACM/IEEE 本科 CS 课程。
Partnership on AI 研究者 Madhulika Srikumar 与 Claire Leibowicz 撰文指出,当前智能体框架不能可靠生成安全部署所需的可观测性记录,业界应对智能体越权行为主要依赖运气和事后补救。
ChinaTalk 发布对葬AI作者咸鱼的中文播客访谈和英文节译稿,围绕他的 AI 讽刺写作、自建视频模型梗图评测 MemeBench,以及中美 AI 行业谁的热度更极端展开。
Ed Zitron 撰文批评 Anthropic 的 IPO 招股书,称其以 Q2 的 9.74 亿美元盈利塑造公司形象,却省略 Q3 营收、未来付款计划和现金状况等关键数据。
推荐理由:作者基于 Anthropic S-1 逐项拆解其披露缺口与计算成本走向,为评估 AI 公司 IPO 风险提供了一个可核对的参照。
Azeem Azhar 解读 Anthropic 的 S-1 文件,称其已从实验室变成有满意客户、现金流和充足资金储备的生意。他指出增长仍很高但正在放缓,超过 80% 的收入来自发布不超过六个月的模型,Q3 可能因向其基金会付款而出现边际亏损。文件未回答能否维持增长以支付已承诺购买的算力;他的 AI Investment Brief 围绕六个问题给出了 39 张图表的详细分析。
推荐理由:原文用39张图表拆解Anthropic S-1数据,指出超八成收入来自半年内新模型,增长虽高但正在放缓。
Azeem Azhar 在 Exponential View 撰文分析奇点论,认为对科学而言瓶颈不在智能,数学和编码之外的领域研究闭环更难闭合。
Nathan Lambert 与 Florian Brand 在 Interconnects 播客中讨论 Kimi K3.1 Pro 基准亮眼却社区反响分化的原因,并评估开放权重模型与网络安全的新格局。
AI 正把互联网上的小漏洞放大成严重漏洞,短期内需牺牲部分互联网开放性换取安全,长期或催生可信任的软件与互联网。Demis Hassabis 将 AGI 预期从 1 月达沃斯的 5-10 年压缩到 3-5 年,最新向 WSJ 给出 2-3 年。电动车正帮助石油进口国降低对石油冲击的敞口,带来能源安全红利。
Gary Marcus 重提 2023 年 3 月与 Keith Teare 就 ChatGPT 是否弊大于利的辩论,认为生成式AI的负面账单已相当严重。除深度伪造色情、钓鱼诈骗、虚假信息和被用作监控工具等危害外,近期还出现被称为 Black October 的黑客潮。
Azeem Azhar 发文警告 AI 智能体攻击正在互联网上快速蔓延,并判断这一波冲击过后互联网将变得更安全也更封闭。文中列举支撑约 70% 网站的 PHP 爆出 PHP2Shell 漏洞,并引微软报告称某中国组织用开源智能体集群在不到 3 小时内控制云账户,每分钟发起 2,900 次登录尝试、覆盖超过 2,250 个组织。
Ed Zitron 发长文批评 Blackstone,指出其把约 $1.4 trillion 管理资产中的 $275 billion 投向数据中心与数字基础设施,几乎每个大型 AI 交易背后都有其出资但难以追踪具体基金。
Platformer 本周与 NPR 联合推出 AI 播客 Machine Gods,每周三、周五上午更新。首期讨论行为不端的 AI 智能体、政府回应与 Amazon 上盗取 Kevin 图书销量的山寨行为,第二期请来两名刚被 OpenAI 解雇的安全研究员谈其担忧。节目将秉持 AI realism(AI 现实主义)立场,既认真对待风险警告,也报道技术带来的进步。
CoreWeave 股价过去六个月下跌超过 50%,尽管科技行业无人希望看到它倒闭。Gary Marcus 展示其六个月与最近一周的股价走势图:周一的短暂回升,只是一些人在电视上对该股炒作的结果。
Gary Marcus 撰文称,据 Axios 报道,美国银行正受到 AI 智能体冲击,银行业高管争相限制系统访问。他列举 10 月 11 日法国制冷系统袭击(疑似与智能体有关)、日本持续的网络安全攻击浪潮,以及拉丁美洲黑客组织 Cybercartel 对智能体的恶意使用,主张即使停止前沿模型开发,现有模型被滥用仍会造成严重问题。
Gergely Orosz 在 The Pragmatic Engineer 播客对谈 Imprint CTO Will Larson,讨论 2010 年代以来工程管理潜规则的变化。
Ethan Mollick 的新书 Co-Existence 出版,距 Co-Intelligence 相隔 30 个月,他以图表复盘期间的 AI 指数级进展,图表由 Claude Projects 中的 Opus 5.5 编排智能体在数分钟内完成。
Microsoft 指出,企业内部智能体常被过度授权,不能因来自内部就默认可信,需要 24/7 持续监控。7 月宣布的 Project Perception 可约束这类智能体:为其分配身份与权限、动态计算风险,并由 Guardian Agents 监督每项操作。思维链等模型透明化不会取代遏制,但会让遏制更智能、更强。
Anthropic 联合创始人 Jack Clark 于 10 月 17 日在曼谷 IMF 会议的 Per Jacobsson 讲座上发表演讲,称奇点已经开始,未来 AI 与科学整体的进展速度都会显著加快。
SemiAnalysis 发文反驳外界对其 2027 年 +43GW 数据中心建设预测过于激进的质疑,称仅其追踪的先进施工阶段园区就超过 24GW,且多已过半完工。
Meta 发布开放权重模型 Muse Spark Open,作者称其为目前最强的美国造开放模型,此前 Meta 还推出了闭源前沿模型 Muse Wonder 与 Muse Wonder Full。
推荐理由:作者将 Meta 开源与闭源双线策略置于中美开放模型差距收窄的背景下评估,并指出复杂许可条款可能拖累模型采用。
Ed Zitron 撰文称风险投资正在自我毁灭,根源是 2012 年奥巴马签署的 JOBS Act 放宽披露要求,让创业公司长期不上市、估值由风投逐轮抬高,AI 泡沫是其必然结果。
10 月初 OpenAI 解雇安全部门三名员工,三人公开表示被解雇与他们推动保留思维链可监控性、与 METR 等第三方机构沟通的工作有关,OpenAI 则称调查确认他们违规处理敏感信息。
Ed Zitron 发表长文,批评 OpenAI、Anthropic 等公司用口径不明的年度化营收(annualized run rate)支撑 AI 泡沫叙事,认为媒体照单转发这些数字是行业报道的失职。
Nathan Lambert 撰文判断,AI 基础设施与工程能力未来几年将大幅加速,但这不会让模型在性质上发生剧变,也不指向通用超级智能。他认为近期进展主要来自用现有工具扩展推理时算力,模型智能的有效成本将接近指数级下降,并预测预训练研究中的架构与数据选择在 2-3 年内实现自动化。
Ed Zitron 撰文分析 AI 泡沫债务风险,认为 OpenAI 与 Anthropic 上市后无法以可承受成本筹到每年至少 500 亿美元债务。文章称十年期美债收益率升破 5.3% 抬高各类借贷成本,Anthropic 已背 4130 亿美元不可取消算力合同,负 EBITDA 使两家公司几乎不可能获得投资级评级。
Nathan Lambert 撰文认为开放权重模型的网络风险讨论已经走偏,若只封禁开放模型而不禁止前沿闭源模型的公开 API,反而会扩大网络攻防差距。他批评 Anthropic 关于 GLM-5.3 作为进攻性网络工具的报告回避了跨领域问题,并指出目前有记录的网络攻击大多与闭源模型有关。