发布 Kimi K3 的模型权重和技术报告。
Kimi K3 是我们能力最强的模型:一个 2.8T 参数的 MoE 模型,具备原生视觉理解能力和 1M token 的上下文窗口。
全新的模型架构:每单位计算量的智能水平提升 2.5 倍,而不仅仅是增加参数量。
与 Kimi K3 一同,我们还将开放其背后的更多技术栈——高性能注意力内核、MoE 通信库,以及用于大规模运行智能体环境的基础设施。
模型权重:http://huggingface.co/moonshotai/Kimi-K3 技术报告:http://github.com/MoonshotAI/Kimi-K3/blob/master/k3_tech_report.pdf 技术博客:http://kimi.com/blog/kimi-k3