正文 · AI 翻译
很高兴 @modal 成为 Kimi K3 第 0 天发布合作伙伴！
他们为 K3 的架构训练了一个定制的 DFlash 投机器，在无质量损失的前提下实现了更快的推理速度。
Kimi K3 已在 Modal 上线。 月之暗面推出了全球首个开源的 3T 级模型,我们是首发合作伙伴。 我们为 K3 的全新架构训练了定制的 DFlash 投机解码器,让你可以更快、无损地运行它。这是我们迄今为止合作过的最强大的开源模型。
Kimi.ai@Kimi_Moonshot · X精选理由
Moonshot 把 K3 作为首个开源 3T 级模型推出，还拉上 Modal 做推理加速，对想试水超大开源模型的开发者是个好消息。可惜推文缺性能实测，云上跑不跑得动还得自己试。
AI 摘要
很高兴 @modal 成为 Kimi K3 的 Day 0 发布合作伙伴！ 他们为 K3 的架构训练了自定义 DFlash 投机器，实现更快推理且无质量损失。
正文 · AI 翻译
很高兴 @modal 成为 Kimi K3 第 0 天发布合作伙伴！
他们为 K3 的架构训练了一个定制的 DFlash 投机器，在无质量损失的前提下实现了更快的推理速度。