STORY · 事件进行中

Hugging Face 发布 LFM2.5 系列 DSpark 草稿模型

1 个精选信源 · 1 篇报道持续 1最新动态 1小时前
最新进展

Hugging Face 发布 LFM2.5 系列 DSpark 草稿模型,推理速度最高提升 3.18 倍

TIMELINE

报道时间线

1 条公开报道 · 官方一手 1 条 · 最新在前
  1. Hugging Face 发布 LFM2.5 系列 DSpark 草稿模型,推理速度最高提升 3.18 倍
    Hugging Face:Blog(RSS)官方一手精选

    Hugging Face 发布 LFM2.5 系列三款模型的 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下,GPU 吞吐最高提升 3.18 倍,端侧最高 2.87 倍。草稿模型约 300M 参数,LFM2.5-2.6B 函数调用延迟平均降低 57%,已开源支持 llama.cpp 和 SGLang。