公众号正文需在微信内阅读,站内仅提供摘要。
Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务
AI 导读
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、推理时仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
公众号正文需在微信内阅读,站内仅提供摘要。
来源:公众号:蚂蚁百灵(Ling)· mp.weixin.qq.com
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、推理时仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
以1.3B激活参数取得接近4B激活模型的综合能力,同时Agent分数超越部分30B+模型,多精度开源和本地部署方案让轻量Agent应用更易落地。
公众号正文需在微信内阅读,站内仅提供摘要。
来源:公众号:蚂蚁百灵(Ling) · mp.weixin.qq.com
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、推理时仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
公众号正文需在微信内阅读,站内仅提供摘要。
来源:公众号:蚂蚁百灵(Ling)· mp.weixin.qq.com