阿里云宣布灵骏真武 M890 超节点实例成功适配月之暗面 2.8 万亿参数旗舰模型 Kimi K3。该实例基于平头哥真武 M890 芯片，通过 64 张 M890 实现 800 GB/s 高速互联与 9TB 显存。真武芯片的 T-Head SAIL 软件栈与 Triton 支持降低了适配工作量。
IT之家 7 月 28 日消息，阿里云今天宣布，灵骏真武 M890 超节点实例成功适配 2.8 万亿参数大模型 Kimi K3，基于芯片、推理平台和模型的联合优化，有效提升模型推理效率。
IT之家了解到，Kimi K3 是月之暗面最新的旗舰模型，参数规模达到 2.8 万亿，采用混合专家（MoE）架构。
而灵骏真武超节点实例基于平头哥训推一体 AI 芯片真武 M890 打造，具备 ICN Switch 1.0 互联芯片，可让 64 张 M890 实现 800 GB/s 的 All-to-All 高速互联，显存规模达 9TB，可将万亿级 MoE 模型的 EP 专家并行通信流量，跑在一个高带宽通信域内，保证 Token（词元）生成效率。
同时，阿里云、平头哥和 Kimi 团队从子、软件栈等层面进行深度协同，成功让 kimi K3 模型实现 Day0 适配。真武芯片的 T-Head SAIL 软件栈可让 Kimi 自研 Mooncake 推理框架实现“开箱即跑”，M890 的 Triton 支持也让大量基于 Triton 编写的自定义算子无需重写，大幅降低适配工作量。
阿里云宣布灵骏真武 M890 超节点实例成功适配月之暗面 2.8 万亿参数旗舰模型 Kimi K3。该实例基于平头哥真武 M890 芯片，通过 64 张 M890 实现 800 GB/s 高速互联与 9TB 显存。真武芯片的 T-Head SAIL 软件栈与 Triton 支持降低了适配工作量。
IT之家 7 月 28 日消息，阿里云今天宣布，灵骏真武 M890 超节点实例成功适配 2.8 万亿参数大模型 Kimi K3，基于芯片、推理平台和模型的联合优化，有效提升模型推理效率。
IT之家了解到，Kimi K3 是月之暗面最新的旗舰模型，参数规模达到 2.8 万亿，采用混合专家（MoE）架构。
而灵骏真武超节点实例基于平头哥训推一体 AI 芯片真武 M890 打造，具备 ICN Switch 1.0 互联芯片，可让 64 张 M890 实现 800 GB/s 的 All-to-All 高速互联，显存规模达 9TB，可将万亿级 MoE 模型的 EP 专家并行通信流量，跑在一个高带宽通信域内，保证 Token（词元）生成效率。
同时，阿里云、平头哥和 Kimi 团队从子、软件栈等层面进行深度协同，成功让 kimi K3 模型实现 Day0 适配。真武芯片的 T-Head SAIL 软件栈可让 Kimi 自研 Mooncake 推理框架实现“开箱即跑”，M890 的 Triton 支持也让大量基于 Triton 编写的自定义算子无需重写，大幅降低适配工作量。