用本地嵌入向量在 Python 中检测关键词蚕食
作者开源一个 Python 脚本,用本地嵌入模型 BAAI/bge-small-en-v1.5 按 Search Console 查询语义重叠检测同站关键词蚕食,无需 API key,18000 行、约 1500 页的数据 13 秒跑完。
作者开源一个 Python 脚本,用本地嵌入模型 BAAI/bge-small-en-v1.5 按 Search Console 查询语义重叠检测同站关键词蚕食,无需 API key,18000 行、约 1500 页的数据 13 秒跑完。
作者在 M1 MacBook Air(16GB、macOS 27.2)上实测多款本地小模型的 TTFT 与 E2E 延迟。
作者梳理 Meta 停产 Quest 2 和 Quest Pro、明年年初推出最终 OS 更新的背景,并介绍基于 Quest 的视觉协调训练应用 Amblyotube(Seven Sports 开发)。
魔芯科技于11月4日在乌镇世界互联网大会上发布新一代通用4D世界模型MoWorld 2.0,将重力、弹力、柔体、流体等十余种物理要素融入同一模型。模型通过物理高斯渲染器和多专家预测强化物理建模,生成场景可输出为可编辑复用的3D/4D高斯资产;在华为昇腾NPU上的实时视频推理从上一代最高50FPS提升至70FPS,推理成本最低为同规模GPU方案的30%。
设计师 Juan Buis 开发的 Backglow 应用可自定义新款 MacBook Pro 顶盖发光苹果 Logo 的效果。免费版支持手动调节亮度、一键关灯和"Breathe"呼吸模式;一次性付费 9 美元(后续涨至 15 美元)的 Pro 版新增"Music"音乐律动模式,以及 Claude Code 执行任务时闪烁呼吸、需用户介入时闪烁提醒的"Agents"模式。
作者 Shalev Oren 从零训练胸片结核病筛查模型 TinyTB-Net,在 1108 张公开临床胸片上加入 Squeeze-and-Excitation 注意力后,把 ROC-AUC 从基线的 0.762 提升到 0.8932,0.35 阈值下敏感度达 89.5%。
教程逐步演示如何用 llama.cpp 运行 NVIDIA Nemotron Labs 的 Dory 1.0 4B 小型推理模型,其共享循环块可对每个 token 应用 1 至 4 次,一份 checkpoint 无需重新训练即可切换四种计算预算。
作者提出一套针对离线 AI 试点的验收测试思路,主张用网络边界测试和依赖清单来验证离线承诺,而不是依赖营销标签。方案要求用平实语言划定数据边界,把模型推理、文档处理、搜索、语音、身份、日志、更新等组件逐项确认归属,并区分安装配置与正常运行两种模式分别设定验收标准。
一位开发者把 NVIDIA DLSS 5 神经渲染管线移植到 Apple Silicon,以 OBS Studio 插件形式开源,无帧生成时最高约 20 FPS,而原项目仅 6 FPS。
这篇文章演示如何借助 Ollama 在普通笔记本 CPU 上本地运行 NVIDIA Nemotron 3.5 Bolt E4B 视觉语言模型,无需独立 GPU。
Windows 本地 OCR 工具 CaptureOCR 可将截图转成 Markdown 表格和 CSV,全程零云端依赖。其架构采用单 OCR 工作线程与双档 PP-OCRv6 模型:6.6 MB 的 tiny 版内置常驻,29.8 MB 的 small 版按需下载、闲置 5 秒后卸载。
作者解读 OptAI Inc. 的 EMNLP 2026 Industry Track 论文,该研究测试 GGUF K 量化对 llama.cpp 上聊天格式安全攻击的影响,覆盖 9 个模型、4 个量化级别、7 种攻击和 520 条有害指令。
OpenBMB 发布开源猫咪监控项目,用 MiniCPM-V 模型在三天内记录四只猫的 89 次喝水并全部正确认出身份。
10月28日,2026款理想i6正式发布,全国统一零售价24.98万元,首销期权益价23.98万元。新车标配96千瓦时自研连山5C电池和马赫M100辅助驾驶芯片,后驱版CLTC续航由720公里增至780公里;可选装2万元双马赫M100套装(含三颗固态激光雷达,总算力2560TOPS)。改款同时升级零重力座椅、电动前备箱、骁龙8797座舱芯片等日常功能,理想i6上市一年累计销量近19万辆。
创想悦动完成约六千万元种子轮融资,投资方为创维战投与创维数字,创始人刘丹曾任腾讯光子工作室群副总经理、《斗战神》制作人。其首款 AI 体感成长主机 Youdoo Box 于今年 7 月 5 日发布,累计销量破 2 万台,售价一千多至三千多,现有近 40 款应用并签约小马宝莉、小猪佩奇等 IP。公司已开启新一轮融资,用于内容开发、东南亚市场拓展及下一代产品预研。
Gradium 在 Hugging Face 博客回顾两周前开源的端侧文本转语音模型 Phonon,无需服务器和网络即可运行。模型有约 65 MB 和 75 MB 两个版本,支持英语、法语、德语、西班牙语和葡萄牙语,内置超过 100 种声音,其中 Phonon 31m 采用 Apache 2.0 许可可商用。
推荐理由:官方详解 Phonon 端侧 TTS 的架构、许可与排行榜表现,可帮助读者评估小模型离线语音方案的适用性。
Google 发布 LiteRT Tensor API,轻量级 C++ API 支持逐算子构建端侧机器学习模型,同一计算图无需重写即可在 CPU、GPU 和 NPU 上运行。
Olmo 3 获得 Nextcloud 的最高 Ethical AI 评级(绿色),该评级要求开源训练与推理软件、可自托管的模型和公开的训练数据。Nextcloud 通过本地 LLM 后端 llm2 将 Olmo 3 7B 集成到 Assistant、Mail 等应用,模型无需高端 GPU 即可在机构自有硬件上运行。
Google 宣布 LiteRT 在 Google Play services 中获得重大升级,GPU 推理由开源引擎 ML Drift 驱动、比旧版 GPU delegate 快约 1.4x,应用改用后可减小约 8 MB。
Ollama 新增语音模型支持,首个模型是来自 Gradium 的 Phonon 文本转语音模型,现已支持 macOS,Windows 与 Linux 支持即将推出。
n8n 博客发文讲解如何用混合工作流在自托管 LLM 与云端 API 之间按规则分流请求。
Google 宣布 Coral NPU 边缘 AI 开放标准达成三项里程碑:32-bit 架构随 Milestone 4 Matrix Execution Unit 完成。
Arm 为 Google AI Edge Model Explorer 开发支持 TOSA、VGF、PTE 格式的开源适配器,让边缘模型编译转换可可视化调试。团队借此发现 ExecuTorch Arm 后端在 NSS 模型 VGF 图中引入的多余 TRANSPOSE 算子,并用分屏视图核对 Ultralytics YOLO 模型向 Arm Ethos-U85 NPU 的委托。
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上架,用户可在本地或 Ollama 云端运行。该模型从 Qwen3.8-27B 微调而来,以 Apache 2.0 协议发布,支持文本、JSON 和图像输入,一次读取输入即可同时对所有问题的答案打分,并兼容 Jev 与 System One API。
Google 发布 LiteRT Tensor API,作为 LiteRT 栈中的轻量 C++ 建图层,支持逐算子构建计算图,同一计算图可在 CPU、GPU 与 NPU 上运行,也可经 XNNPACK 无模型文件直接在 CPU 执行。
推荐理由:为需要手工控制模型的开发者提供折中路径,同一份 C++ 计算图可跑 CPU、GPU 和 NPU,免去按后端重写的工程量。
NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,以及 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 两款边缘模型,覆盖从数据中心到桌面与边缘设备的智能体部署;Super VL 与 Bolt 74B-A9B 即刻可用,Bolt E4B 定于 10 月 23 日上线。
Apple 机器学习研究团队发布教程,演示用最新版 MLX 与 RDMA over Thunderbolt 在 Mac Studio 上本地及跨机运行大模型推理,816B 参数的 MoE 模型 Muse Spark Open 在四台 M5 Ultra 上生成速度达 36.73 tokens/s。
推荐理由:原文在同一基准下对比 M3 Ultra 与 M5 Ultra 单机及多机并行的表现,读者可据此估算在 Mac Studio 上本地运行大模型所需的机器数量与速度。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出保护隐私的端侧诈骗检测模型。模型在设备上本地运行,新加坡政府和 Google 均无法借此访问用户对话。该局已在 STACK 2026 上为新加坡 Android 用户推出 Anti-Scam Pango 应用开放测试版。
Ollama 发布 0.35 版本,新增基于 TypeSafe Jev API 的决策模型支持,通过新的 /v1/systemone 端点以一次请求回答一组命名问题,适合工单分诊、模型路由和内容或安全审核等需要快速决策的任务。
exo-explore 在 GitHub 发布 vllm-metal 项目,这是一个由社区维护的 vLLM 硬件插件,用于让 vLLM 在 Apple Silicon 上运行。该项目托管在 GitHub Org 的 exo-explore 下。
Ollama 宣布开发者可将 Claude Desktop 配置为通过 Ollama 作为第三方网关,在 Claude 中使用本地和 Ollama 云端的开放模型。在 Ollama 中开启 Claude 即自动完成网关配置,关闭后可恢复原有设置,也可随时切换回 Anthropic 模型。FAQ 说明遥测默认禁用,并在所有模型与服务中执行 Zero Data Retention 政策。
NVIDIA Nemotron 3.5 Lightning 现已在 Ollama 上架,这是一个总参数 30B、每 token 激活 3B 的开源模型,可完全在本地设备运行,面向收集上下文、调用工具等持续运行的智能体任务。
Sebastian Raschka 分享长篇教程,演示用 Ollama 服务 Qwen3.6 35B-A3B 等开放权重模型,在本地搭建编码智能体并接入 Qwen Code、Codex 和 Claude Code 三种框架。
Apple 在 GitHub 提供 coreai-models 仓库,包含面向端侧 AI 的模型导出配方、Python 原语与 Swift 运行时工具。
Stability AI 发布音频生成模型家族 Stable Audio 3.0,四个模型中 Small SFX、Small 和 Medium 三个开放权重,训练数据全部获得授权。
axolotl-ai-cloud 在 GitHub 上发布 dflash-mlx 项目,基于 MLX 框架在 Apple Silicon 上实现精确投机解码。该项目由 MLX 驱动,面向 Apple Silicon 平台提供 exact 投机解码能力。