Apple 用小型神经网络加速 MIPS 检索,让 RAG 更快更高效
Apple 在 ICML 2026 论文中提出用小型神经网络学习 MIPS 支持函数,离线训练一次即可在推理时实现更快、更准确的 RAG 检索。论文给出两种模型:SupportNet 用 ICNN 学习支持函数以改进路由,KeyNet 直接输出最佳匹配的 key 向量。该方法面向查询分布稳定的生产场景,以前期摊销成本换取检索速度与准确率提升。
Apple 在 ICML 2026 论文中提出用小型神经网络学习 MIPS 支持函数,离线训练一次即可在推理时实现更快、更准确的 RAG 检索。论文给出两种模型:SupportNet 用 ICNN 学习支持函数以改进路由,KeyNet 直接输出最佳匹配的 key 向量。该方法面向查询分布稳定的生产场景,以前期摊销成本换取检索速度与准确率提升。
Apple 于 2026 年 10 月在 ACCV 发表论文,提出实时 3D 头部动画方法 GHARP,仅需少量输入图像和表情驱动信号。该方法将离线身份建模与运行时动画解耦,动画阶段是面向移动设备优化的轻量网络。GHARP 在 Ava-256 基准上达到 SOTA 质量,在 A100 GPU 上最高提速 13×、高斯数量减少 8×。
Apple 研究团队提出 Selection-Based Structured Reasoning(SSR)框架,将多模态搜索智能体的逐步推理从开放式生成改为从预置候选中选取。在 2B 和 4B 模型、七个多模态搜索基准上的评估显示,SSR 平均成功率与同规模领先搜索智能体相当,单轮推理延迟降低逾 90%,每题总模型推理延迟降低 28–54%。
Apple 机器学习研究团队发布教程,演示用最新版 MLX 与 RDMA over Thunderbolt 在 Mac Studio 上本地及跨机运行大模型推理,816B 参数的 MoE 模型 Muse Spark Open 在四台 M5 Ultra 上生成速度达 36.73 tokens/s。
推荐理由:原文在同一基准下对比 M3 Ultra 与 M5 Ultra 单机及多机并行的表现,读者可据此估算在 Mac Studio 上本地运行大模型所需的机器数量与速度。
Apple 机器学习研究团队在 EMNLP 发表论文,对比工具增强 LLM 智能体的两种工具发现架构:Retrieve-then-Plan(RtP)与先规划再检索的 Plan-then-Retrieve(PtR)。
Apple 研究团队在 NeurIPS 发表论文,提出首个从零预训练的三模态掩码扩散模型,训练数据覆盖文本、图文和音频文本。论文系统分析多模态缩放规律、模态混合比例、噪声调度和批次大小影响,给出基于 SDE 的重参数化以解耦物理与逻辑批次大小,免去批次大小调优。
Apple 研究发现,数据受限预训练中混入高资源语言数据比超参数调优提升更大,且差距随模型规模扩大。实验覆盖 150M 至 1.43B 四个模型规模、约 1000 次预训练运行,以阿拉伯语为目标、英语为辅助。混合等效于 2–3 倍唯一目标数据的验证损失增益和 2–13 倍下游准确率增益,建议优先调混合比例并用 μP 迁移超参数。
UC Berkeley 与 IBM Research 在演化式 kernel 搜索框架 K-Search 上新增 MLX 后端和 CUDA-to-MLX 结构化翻译层,把现有 CUDA kernel 的优化知识转化为 Apple Silicon 上的高质量 kernel。
Apple 在 GitHub 提供 coreai-models 仓库,包含面向端侧 AI 的模型导出配方、Python 原语与 Swift 运行时工具。
axolotl-ai-cloud 在 GitHub 上发布 dflash-mlx 项目,基于 MLX 框架在 Apple Silicon 上实现精确投机解码。该项目由 MLX 驱动,面向 Apple Silicon 平台提供 exact 投机解码能力。