跳到正文
开源中国·· 4 天前AI 评分70

百度开源 ERNIE 5.5 Flash Base 基座模型

百度发布最新基座模型 ERNIE 5.5 Flash Base:效率、开源、高性价比

AI 导读

百度开源 ERNIE 5.5 Flash Base 基座模型,采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数。模型使用 33.5 万亿个 Token 完成预训练,预训练上下文长度最高达 128K,微调与推理阶段支持最长 100 万 Token 上下文。

来源:开源中国 · oschina.net

事件后续 · 1

查看事件全部