公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务
AI 导读
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、每 Token 仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文(在新标签页打开)来源:公众号:蚂蚁百灵(Ling)· mp.weixin.qq.com
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、每 Token 仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
1.3B 激活参数在 Mac 上实测首 Token 低于 100 毫秒,比只看参数量的轻量叙事更有参考价值,端侧 Agent 的落地边界因此更具体。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文来源:公众号:蚂蚁百灵(Ling) · mp.weixin.qq.com
蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、每 Token 仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文(在新标签页打开)来源:公众号:蚂蚁百灵(Ling)· mp.weixin.qq.com