公众号正文需在微信内阅读,站内仅提供摘要。
腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍
精选理由
AngelSpec 将投机解码从训练到部署全链路开源,DFly 和 D-cut 在真实流量下带来额外加速,对需要优化推理成本的团队有直接落地价值。
AI 摘要
腾讯混元开源覆盖训练到部署的投机解码框架 AngelSpec,并放出 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。
公众号正文需在微信内阅读,站内仅提供摘要。
在微信中打开原文mp.weixin.qq.com(在新标签页打开)