百度开源 ERNIE-5.5-Flash-Base 基座模型
百度发布了ERNIE 5.5 Flash基础模型
AI 导读百度发布 ERNIE-5.5-Flash-Base 基座模型权重,为 280B 总参数、每 token 激活 14B 的稀疏 MoE 模型,从头在 33.5T tokens 上预训练,训练上下文达 128K,微调和推理支持 1M-token 上下文。
另有 7 家信源报道
- 百度开源 280B 参数的 ERNIE 5.5 Flash Base 基础模型百度 Baidu · 11 天前
- 百度发布并开源 ERNIE-5.5-Flash-Base 预训练 Base 模型百度文心 ERNIE 官方博客 · 11 天前
- 百度发布 ERNIE 5.5 Flash Base:280B 总参、14B 激活的 MoE 基座模型MarkTechPost · 11 天前
- 百度开源 ERNIE 5.5 Flash Base 基座模型,280B 参数 MoE 架构The Decoder:AI News · 11 天前
- 百度开源 ERNIE 5.5 Flash Base 基座模型:280B 总参数、14B 激活百度 Baidu · 11 天前
- 百度发布 ERNIE 5.5 Flash Base 并上架 Hugging Face百度 Baidu · 11 天前
- 百度文心开源 ERNIE-5.5-Flash-Base 基座模型,总参数 280B 每 token 激活 14BIT之家·人工智能 · 11 天前
来源:百度文心 ERNIE 官方博客 · ernie.baidu.com
事件后续2
查看事件全部- 百度发布 ERNIE 5.5 Flash Preview,权重将于 11 月 25 日前开源百度文心 ERNIE 官方博客 · 6 天前
- 百度发布并开源 ERNIE-5.5-Flash-Base 预训练 Base 模型百度文心 ERNIE 官方博客 · 11 天前