Google 用轻量分类器路由 Gemini 模型与思考级别以降低每任务成本
Google Developers Blog 介绍以每成功任务成本而非每 token 价格衡量 coding agent 经济性,并把 TypeSafe 的 Jev 分类器接在 Google Antigravity 的模型调用前做路由。
推荐理由:Google 官方用 50 题基准实测轻量分类器路由 Gemini 模型的成本收益,给出了可复用的路由方法和三条落地规则。
Google Developers Blog 介绍以每成功任务成本而非每 token 价格衡量 coding agent 经济性,并把 TypeSafe 的 Jev 分类器接在 Google Antigravity 的模型调用前做路由。
推荐理由:Google 官方用 50 题基准实测轻量分类器路由 Gemini 模型的成本收益,给出了可复用的路由方法和三条落地规则。
Mistral 发布 Mistral Large 4(Le Chonk)开放权重,这款 1 万亿参数、原生多模态模型本月早些时候曾以公开预览形式发布,经三周强化学习后在 FrontierCode 2.0 得分 19.7%、Terminal-Bench 4.0 得分 41%,居开源权重模型首位,并在 Artificial Analysis Cyber Index 得分 51%。
推荐理由:原文给出编码与防御安全的多项基准成绩、三档推理模式与定价,可帮助开发者评估自托管开源模型的能力与成本取舍。
vLLM 官方宣布为 Mistral 新旗舰 MoE 原生多模态模型 Mistral Large 4 提供 Day 0 支持,FP8 与 NVFP4 权重均可通过 vllm/vllm-openai:mistral-large-4 镜像部署。
推荐理由:原文在发布支持的同时给出 FP8 与 NVFP4 的质量速度实测对比,读者可据此为不同硬件规模选择部署配置。
Google DeepMind 发布新前沿模型 Gemini 4 Carbon,称其为其最强模型,主打网络安全与长程智能体能力,在 Artificial Analysis Intelligence Index v5.0 以 59 分排名第一。
推荐理由:原文完整给出安全基准成绩、分阶段开放节奏和定价,读者可以据此评估它在编码与网络安全场景的适用性。
Google Research 提出持续学习中的睡眠框架,让大语言模型在活跃交互与离线睡眠之间交替,把脆弱的短期记忆固化为长期参数记忆,同时缓解灾难性遗忘。睡眠阶段包含记忆巩固与做梦两部分,通过解锁 MoE 记忆块、结合 GKD 与强化学习的知识注入,以及随机专家选择和梯度筛选合成样本来实现自我提升。
推荐理由:原文给出睡眠框架在持续翻译、长上下文和数学推理上对比 ICL、SFT 等基线的实验结果,可了解缓解灾难性遗忘的一种新思路。
Google 在 TPU 上推出基于 TorchTPU 的原生 PyTorch 推理引擎 vLLM-TorchTPU 与 SGLang-TorchTPU,分别与 Inferact 和 RadixArk 合作开发,项目已在 GitHub 开源。
推荐理由:为习惯 PyTorch 的开发者提供不经 JAX 后端直接在 TPU 上运行 vLLM 和 SGLang 的方式,并附公开基准的成本与吞吐数据。
vLLM 发布 v0.32.0,包含 363 位贡献者的 814 项提交,新增 /v1/systemone 结构化端点和读取 checkpoint response_template 的通用 hf 工具与推理解析器。
推荐理由:本次集中改进低精度 KV cache、启动速度和 API 负载均衡,并修复多个安全问题,自行部署推理服务的读者可据此评估升级收益。
Google 全球开放前沿模型 Gemini 4 Argon,开发者可通过 Gemini API 在 AI Studio 使用,Google AI Ultra 与 Pro 订阅用户可在 Gemini 应用、搜索 AI Mode 及 Antigravity 中体验。
推荐理由:原文以 Chrome 重构等内部工程数据说明模型落地效果,读者可以据此评估它在复杂编码与科研任务上的可用性。
Microsoft 宣布从 2027 年起将 Azure Maia 家族扩展至多吉瓦级部署,并使 Maia 成为 Microsoft 产品与服务的主要推理系统。
推荐理由:原文给出 Maia 300 每兆瓦 token 效率和机架吞吐的具体数字,读者可据此比较微软自研芯片与 GPU 方案的定位。
Understanding AI 撰文认为,智能体蜂群可能成为继推理缩放之后的新 scaling law,OpenAI 已在含其他智能体的环境中训练模型,让它们互相发消息并协作达成目标。
推荐理由:文章权衡智能体蜂群是解锁新能力还是只买来速度,并汇总 OpenAI 与 Anthropic 一线的收益递减证据。
Moonshot AI 发布 2.8T 参数模型 Kimi K3,基于 Kimi Delta Attention 与 Attention Residuals,具备原生视觉能力和 100 万 token 上下文窗口。
推荐理由:原文同时给出基准对比、架构细节、API 定价与权重开放时间,读者可据此评估这款 2.8T 开源模型在编码与智能体工作里的可用性。