This would be fun for developers! 🥳
🎉 Day-0 support for Ling-3.0-flash from @AntLingAGI is now live in SGLang! A 124B MoE model built for production agents with: > Hybrid-linear from step 0 of pr...
蚂蚁百灵 Ling-3.0-flash 已在 SGLang 中提供 Day-0 支持,该 124B MoE 模型专为生产级智能体打造。模型从预训练起采用混合线性架构(KDA+MLA 5:1 堆叠、1/64 稀疏 MoE),并新增 INT4 和 MXFP4 变体,可在单台 NVIDIA DGX Spark 上端到端运行。
This would be fun for developers! 🥳
来源:Ant Ling · x.com
蚂蚁百灵 Ling-3.0-flash 已在 SGLang 中提供 Day-0 支持,该 124B MoE 模型专为生产级智能体打造。模型从预训练起采用混合线性架构(KDA+MLA 5:1 堆叠、1/64 稀疏 MoE),并新增 INT4 和 MXFP4 变体,可在单台 NVIDIA DGX Spark 上端到端运行。
This would be fun for developers! 🥳
来源:Ant Ling· x.com