Google AI · DEV 作者专属· InferenceKey·2026-11-08 14:36· 1 小时前AI 评分70

在 RTX 4090 上部署 Sage-A1.5 实测：一个失效参数、排队陷阱与自检模式的量化效果

Serving Sage-A1.5 on an RTX 4090: one broken flag, one queue, and a self-check mode to measure

AI 导读

作者实测在上海人工智能实验室开源的 Sage-A1.5 上单卡 RTX 4090 部署，该模型基于 Qwen 35B 模型以 MoE 架构再训练，官方提供约 22 GB 的 Q4_K_M GGUF。