正文 · AI 翻译
关于 Hy4 预览版,还有一点特别值得关注。
在 AI 研究中,Hy4 预览版自行发现了推理瓶颈,并通过算子融合与通信优化将端到端吞吐量提升了 31.8%--且在不同上下文长度和并发条件下表现稳定。
🚀 Hy4 preview 来了。 770B 参数,49B 激活参数,1M 上下文窗口。 为生产力而生。 开源前沿模型。 价格稳定实惠。 用起来,告诉我们哪里有问题。 更多内容见 Hy 博客:https://hy.tencent.ai/research/hy4-preview HuggingFace:https://...