MarkTechPost· Michal Sutter·· 2 天前AI 评分62
百度发布 ERNIE 5.5 Flash Base：280B 总参、14B 激活的稀疏 MoE 基座模型
Baidu Releases ERNIE 5.5 Flash Base: A 280B MoE Base Model With 14B Active Parameters
AI 导读
百度发布 ERNIE 5.5 Flash Base，一个总参数 280B、每 token 激活 14B 的稀疏 MoE 文本基座模型，权重止于预训练原始检查点、不含中期和后训练，已在 Hugging Face 和 ModelScope 提供 FP8 与 BF16 权重。
来源：MarkTechPost · marktechpost.com