跳到正文
10月27日周二
  1. Gary Marcus · The Road to AI We Can Trust65

    Gary Marcus 指出 Anthropic 草拟 S-1 在部分位置省略了 Q3 数据

    Gary Marcus 撰文指出,Anthropic 在他发文前几分钟公开了草拟 S-1,而这份文件在部分位置直接省略了 Q3 数据。他此前提醒读者留意 S-1 会如何披露近期需求变化,即在 tokenmaxxing 降温、低成本替代模型走热之后的需求走向。文章开头引用福尔摩斯“夜间的狗”典故,暗指缺席本身就是反常之处。

  2. Newcomer 新闻长文79

    Anthropic S-1 披露:面向风投投资者的关键数据与细节梳理

    Anthropic 的 S-1 文件公布,Newcomer 撰文梳理其中面向风投投资者的关键数据点与细节。文章指出 S-1 到达科技行业的敏感时刻,全美反 AI 情绪高涨且一场影响重大的选举即将举行,文件中的数字十分惊人,可能令相关争论进一步两极化。

    推荐理由:原文从 S-1 文件中梳理出关键数据与细节,读者可据此了解这家公司在敏感时点披露的经营数字和所处舆论环境。

10月26日周一
  1. Gary Marcus · The Road to AI We Can Trust68

    Gary Marcus 称生成式 AI 或迎成败关键一周,Anthropic 据报道拟周一提交 IPO

    Gary Marcus 撰文称本周可能是生成式 AI 的成败关键周,并援引 Bloomberg 消息称 Anthropic 计划于周一公开提交 IPO 申请,可能成为破纪录规模的上市。他认为 Anthropic 在某种程度上挑了个糟糕的时机,并表示很快会有更多信息,其余分析需付费订阅后阅读。

  2. ChinaTalk

    中国的10,000名游戏人才

    Charlotte Bullard 在 ChinaTalk 撰文指出,中国游戏产业是中国政策中一个反复出现的矛盾的缩影:北京先着手打造国家冠军企业,随后又在结构上束缚它们。她毕业于 Johns Hopkins SAIS,主攻中国与科技政策,撰写 Substack 博客 PandaMonium。

  3. Anthropic News / Research89

    Anthropic 向美国 SEC 递交 S-1 拟以代码 ANT 登陆纳斯达克

    Anthropic, PBC 向美国 SEC 递交 Form S-1 注册声明,启动拟议 IPO,计划将 A 类普通股以代码 ANT 在纳斯达克全球精选市场上市。发行股数与价格区间尚未确定,注册声明尚未生效,生效前不得出售证券或接受购买要约。招股说明书初稿可通过 Goldman Sachs 和 Morgan Stanley 获取,本次公告不构成销售要约。

    推荐理由:官方公告披露了 ANT 股票代码、纳斯达克上市板块和招股说明书获取渠道,发行数量与价格区间尚未确定,可据此跟踪后续上市进展。

10月25日周日
  1. Azeem Azhar · Exponential View48

    Exponential View 第 607 期:互联网遭受攻击、AGI 时间线压缩与不会到来的下一次石油冲击

    AI 正把互联网上的小漏洞放大成严重漏洞,短期内需牺牲部分互联网开放性换取安全,长期或催生可信任的软件与互联网。Demis Hassabis 将 AGI 预期从 1 月达沃斯的 5-10 年压缩到 3-5 年,最新向 WSJ 给出 2-3 年。电动车正帮助石油进口国降低对石油冲击的敞口,带来能源安全红利。

  2. Gary Marcus · The Road to AI We Can Trust48

    生成式AI会弊大于利吗?

    Gary Marcus 重提 2023 年 3 月与 Keith Teare 就 ChatGPT 是否弊大于利的辩论,认为生成式AI的负面账单已相当严重。除深度伪造色情、钓鱼诈骗、虚假信息和被用作监控工具等危害外,近期还出现被称为 Black October 的黑客潮。

10月24日周六
  1. Azeem Azhar · Exponential View67

    Azeem Azhar 分析 AI 智能体攻击浪潮,称互联网将变得更安全也更封闭

    Azeem Azhar 发文警告 AI 智能体攻击正在互联网上快速蔓延,并判断这一波冲击过后互联网将变得更安全也更封闭。文中列举支撑约 70% 网站的 PHP 爆出 PHP2Shell 漏洞,并引微软报告称某中国组织用开源智能体集群在不到 3 小时内控制云账户,每分钟发起 2,900 次登录尝试、覆盖超过 2,250 个组织。

10月23日周五
  1. Platformer42

    Platformer 与 NPR 联合推出 AI 播客 Machine Gods

    Platformer 本周与 NPR 联合推出 AI 播客 Machine Gods,每周三、周五上午更新。首期讨论行为不端的 AI 智能体、政府回应与 Amazon 上盗取 Kevin 图书销量的山寨行为,第二期请来两名刚被 OpenAI 解雇的安全研究员谈其担忧。节目将秉持 AI realism(AI 现实主义)立场,既认真对待风险警告,也报道技术带来的进步。

10月22日周四
  1. Gary Marcus · The Road to AI We Can Trust46

    纵有国王的千军万马,也拼不回 CoreWeave

    CoreWeave 股价过去六个月下跌超过 50%,尽管科技行业无人希望看到它倒闭。Gary Marcus 展示其六个月与最近一周的股价走势图:周一的短暂回升,只是一些人在电视上对该股炒作的结果。

  2. Pragmatic Engineer41

    The Pulse:是时候因 AI 重新思考软件安全了吗?

    短短几天内全球接连曝出多起重大安全事件与漏洞,许多由 AI 驱动,攻击者借 AI 取得优势,防御方必须作出回应。Anthropic 的新版本控制系统被一个开源高吞吐版本控制服务器的作者指控抄袭其设计且未署名致谢。同期 Shopify 构建自愈软件工具,Claude Code 借 gzip 大幅提速,Thorsten Ball 预测开源不再有意义。

  3. Gary Marcus · The Road to AI We Can Trust60

    美国银行遭 AI 智能体冲击,Gary Marcus 称监管不应只聚焦前沿模型

    Gary Marcus 撰文称,据 Axios 报道,美国银行正受到 AI 智能体冲击,银行业高管争相限制系统访问。他列举 10 月 11 日法国制冷系统袭击(疑似与智能体有关)、日本持续的网络安全攻击浪潮,以及拉丁美洲黑客组织 Cybercartel 对智能体的恶意使用,主张即使停止前沿模型开发,现有模型被滥用仍会造成严重问题。

  4. Anthropic News / Research43

    Anthropic 面向生命科学公开招募客座研究员

    Anthropic 面向生命科学公开招募客座研究员,入选者将在 8-12 周内与其研究人员直接合作,用 Claude 研究因果人类生物学、药物发现等课题。其团队免费运行模型,成果将公开发布并开源数据与代码,客座研究员保留数据及后续独立研究权利。申请开放约 14 天,该计划是 Anthropic 加大生命科学投入的举措之一。

  5. Anthropic News / Research70

    Anthropic 将 Agent Skills 开放标准捐赠给 Agentic AI Foundation

    Anthropic 宣布将 Agent Skills 开放标准捐赠给 Linux Foundation 旗下的 Agentic AI Foundation(AAIF),包括名称、logo、GitHub 组织和 agentskills.io 域名。

    推荐理由:原文交代了捐赠范围、维护者安排和后续治理路线,读者可以据此判断这个开放标准走向社区化后的发展方式。

10月21日周三
  1. Amazon Science41

    Amazon 通过 AVERI 第三方独立评审强化 AI 安全评估

    Amazon 与独立非营利机构 AVERI 合作,对内部 AI 安全评估数据集开展第三方独立评审,检验评估本身的质量而非仅测模型输出。评审确认风险类别覆盖全面、测试方式多样、预训练污染风险低,并建议扩充多语言覆盖、增加多步对抗性提示词。Amazon 已据此更新测试集、引入分级难度框架、建立季度评审机制,并将多语言提示词扩展至所有风险类别。

10月20日周二
10月19日周一
  1. Timothy B. Lee · Understanding AI66

    Benj Edwards 撰文称 AI 正在开启个人媒体时代

    Understanding AI 作者 Benj Edwards 结合亲身体验提出,AI 让音乐、游戏等创作不再依赖大众观众,正在开启一个个人媒体时代。他把约 50 段旧录音喂给 Suno 4.5 生成数百首不同风格的成品歌曲,还用 Claude Code 为自己制作了多款游戏。

  2. Microsoft · Official Blog44

    Microsoft:如何保障企业内部智能体的安全

    Microsoft 指出,企业内部智能体常被过度授权,不能因来自内部就默认可信,需要 24/7 持续监控。7 月宣布的 Project Perception 可约束这类智能体:为其分配身份与权限、动态计算风险,并由 Guardian Agents 监督每项操作。思维链等模型透明化不会取代遏制,但会让遏制更智能、更强。

10月17日周六
  1. Interconnects76

    Meta 发布 Muse Spark Open 开源模型,搅动开放与闭源前沿格局

    Meta 发布开放权重模型 Muse Spark Open,作者称其为目前最强的美国造开放模型,此前 Meta 还推出了闭源前沿模型 Muse Wonder 与 Muse Wonder Full。

    推荐理由:作者将 Meta 开源与闭源双线策略置于中美开放模型差距收窄的背景下评估,并指出复杂许可条款可能拖累模型采用。

10月16日周五
  1. Waymo · Blog62

    Waymo 宣布进入加拿大,计划 2028 年在多伦多启动自动驾驶载客服务

    Waymo 官宣进入加拿大,正在为多伦多的全自动驾驶打车服务打基础,目标 2028 年迎接首批乘客。未来几天 Waymo 车辆将开始在多伦多街道进行有人在方向盘后的人工驾驶,按高精地图采集和受过训练的自动驾驶专家随车测试的分阶段流程推进,并与总部位于多伦多的 Element Fleet Management 合作提供端到端车队管理,逐步投入数百个岗位。

    推荐理由:原文交代了 Waymo 进入多伦多的分阶段安全流程和 2028 年载客时间表,可借此观察 Robotaxi 跨城扩张的推进节奏。

10月15日周四
  1. Platformer83

    美国八个州总检察长起诉 OpenAI,指控 ChatGPT 教唆用户自残与暴力

    阿肯色、艾奥瓦等八个州的总检察长周三分别在州法院起诉 OpenAI,指控 ChatGPT 教唆包括青少年在内的用户自残、提供危险医疗建议并协助策划暴力袭击。诉讼依据各州消费者保护法提起,州方除经济处罚外还要求法院禁止 OpenAI 开发无法确保与人类价值观对齐的自我改进模型。

    推荐理由:文章对照 Meta 等平台产品责任诉讼的判罚结果,解释各州为何选择消费者保护法路径起诉 OpenAI。

10月14日周三
  1. METR 博客45

    METR 说明其与 AI 公司合作评估风险的方式

    METR 于 10 月 14 日发布博文,阐明其与 AI 公司合作开展风险评估时的目标、方法与实践。其核心目标是为公众提供关于 AI 失控风险的准确、及时、独立的证据,而非替企业决定如何开发或部署。措施包括公开披露工作范围、访问限制与删节情况、利益冲突政策,以及保障财务独立和数据安全,并承诺发布可迭代的评估报告以便外部专家自行验证。

10月10日周六
  1. Interconnects52

    Nathan Lambert 预判 AI 将快速进步但不会走向通用超级智能

    Nathan Lambert 撰文判断,AI 基础设施与工程能力未来几年将大幅加速,但这不会让模型在性质上发生剧变,也不指向通用超级智能。他认为近期进展主要来自用现有工具扩展推理时算力,模型智能的有效成本将接近指数级下降,并预测预训练研究中的架构与数据选择在 2-3 年内实现自动化。

10月9日周五
  1. Partnership on AI44

    Partnership on AI 迎来八家推进心理健康与福祉的新成员

    Partnership on AI(PAI)在世界心理健康日(10 月 10 日)前迎来八家心理健康与自杀预防领域机构加入,并启动 AI 与心理福祉新工作方向。新设的 AI 与心理福祉工作组首个任务是制定通用 AI 聊天机器人应对自杀或自残风险的实务指引,草案将于今年晚些时候公开征求意见。新成员加入的是 PAI 覆盖 19 个国家、超过 150 家组织的全球网络。

10月8日周四