蚂蚁 inclusionAI 发布 Ling-3.0 系列模型

蚂蚁 inclusionAI 开源 Ling-3.0 系列高效语言基础模型，并发布预训练、中期训练及合并（WSM）等阶段的检查点，支持继续预训练、微调与研究。Ling-3.0-tiny-base 采用稀疏 MoE 架构，含 128 个路由专家，每 token 仅激活 1.3B 参数，总参数量 7.9B，并原生混合线性注意力以高效处理长上下文。

蚂蚁 inclusionAI 开源 Ling-3.0 系列语言基座模型，采用高度稀疏（1/64）MoE 架构，含 512 个路由专家，每个 token 仅激活 8 个路由专家和 1 个共享专家，激活参数仅 5.1B（Non-emb）。

蚂蚁 inclusionAI 开源 Ling-3.0 系列语言基座模型，采用高度稀疏（1/64）MoE 架构，512 个路由专家中每 token 仅激活 8 个，总参数量 124B，激活参数仅 5.1B。该系列原生融合线性注意力，并以加权检查点合并替代传统学习率衰减。此次发布包含预训练、中期训练及合并（WSM）等多个训练阶段的检查点，支持继续预训练与微调，模型采用 MIT 许可证。

蚂蚁 inclusionAI 开源 Ling-3.0 系列高效语言基础模型，并发布预训练、中间训练及合并（WSM）等多个训练阶段检查点，支持继续预训练、微调与研究。