实测 Sage-A1.5 单张 RTX 4090 部署与踩坑
热点事件持续更新
实测 Sage-A1.5 单张 RTX 4090 部署与踩坑
1 篇报道1 个报道来源1 小时前更新
先了解这件事
报道摘要
作者实测在上海人工智能实验室开源的 Sage-A1.5 上单卡 RTX 4090 部署,该模型基于 Qwen 35B 模型以 MoE 架构再训练,官方提供约 22 GB 的 Q4_K_M GGUF。
摘自 Google AI · DEV 作者专属
最新进展11月8日 14:36
在 RTX 4090 上部署 Sage-A1.5 实测:一个失效参数、排队陷阱与自检模式的量化效果报道时间线
沿着报道,了解事件的不同侧面。
11月8日
- Google AI · DEV 作者专属在 RTX 4090 上部署 Sage-A1.5 实测:一个失效参数、排队陷阱与自检模式的量化效果
作者实测在上海人工智能实验室开源的 Sage-A1.5 上单卡 RTX 4090 部署,该模型基于 Qwen 35B 模型以 MoE 架构再训练,官方提供约 22 GB 的 Q4_K_M GGUF。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。