公众号:腾讯混元
首个产业级2Bit量化新突破,腾讯混元开源0.3B端侧模型
AI 摘要
腾讯混元开源0.3B端侧模型,实现首个产业级2Bit量化突破。在真实端侧设备上,相比原始精度模型,生成速度提升2—3倍。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文mp.weixin.qq.com腾讯混元开源0.3B端侧模型,实现首个产业级2Bit量化突破。在真实端侧设备上,相比原始精度模型,生成速度提升2—3倍。
公众号正文需在微信内阅读,站内仅提供摘要。
腾讯混元开源0.3B端侧模型,实现首个产业级2Bit量化突破。在真实端侧设备上,相比原始精度模型,生成速度提升2—3倍。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文mp.weixin.qq.com