Apple 用小型神经网络加速 MIPS 检索，让 RAG 更快更高效

Apple 在 ICML 2026 论文中提出用小型神经网络学习 MIPS 支持函数，离线训练一次即可在推理时实现更快、更准确的 RAG 检索。论文给出两种模型：SupportNet 用 ICNN 学习支持函数以改进路由，KeyNet 直接输出最佳匹配的 key 向量。该方法面向查询分布稳定的生产场景，以前期摊销成本换取检索速度与准确率提升。