# 寒武纪 Day 0 适配 DeepSeek-V4，发布当日即稳定运行

- 来源：IT之家（RSS）
- 发布时间：2026-04-24 13:53
- AIHOT 分数：53
- AIHOT 链接：https://aihot.virxact.com/items/cmocif9h203rjslsjvge84fh0
- 原文链接：https://www.ithome.com/0/943/018.htm

## AI 摘要

寒武纪宣布已完成对深度求索最新开源模型DeepSeek-V4的Day 0适配，模型发布当日即可稳定运行。适配针对其285B和1.6T两个版本，代码已开源。通过自研高性能算子库对模型新结构进行专项加速，并在vLLM推理框架中全面支持5D混合并行、低精度量化等技术，以优化词元吞吐和端到端推理效率。同时，深度挖掘硬件特性以最小化通信开销，提升分布式推理性能。DeepSeek-V4拥有百万字上下文，能力领先，现已开放体验和API调用。

## 正文

IT之家 4 月 24 日消息，寒武纪今日宣布，已基于 vLLM 推理框架完成对深度求索公司最新开源模型 285B DeepSeek-V4-flash 和 1.6T DeepSeek-V4-pro 的 Day 0 适配，模型发布当日即可实现稳定运行，适配代码已开源到 GitHub 社区。

针对 DeepSeek-V4 的新结构，寒武纪通过自研高性能融合算子库 Torch-MLU-Ops，对 Compressor、mHC 等模块进行专项加速；利用 BangC 高性能编程语言，编写稀疏 / 压缩 Attention、GroupGemm 等热点算子的极致优化 Kernel，充分释放硬件底层性能。

在推理框架优化层面，寒武纪在 vLLM 中全面支持 TP / PP / SP/DP/EP 5D 混合并行、通信计算并行、低精度量化以及 PD 分离部署等优化技术，通过策略优化，在满足延时约束下达到最佳的词元吞吐能力，显著提升端到端推理效率。

硬件特性同样被深度挖掘：利用 MLU 访存与排序加速能力，有效加速稀疏 Attention、Indexer 等结构；高互联带宽与低通信延时，将 Prefill 和 Decode 两种不同工作负载场景下的通信占比降至最低，最大化分布式推理的利用率。

IT之家注意到，今天上午，DeepSeek-V4 模型预览版正式上线并同步开源。DeepSeek-V4 拥有百万字超长上下文，在 Agent 能力、世界知识和推理性能上均实现国内与开源领域的领先。即日起登录官网 chat.deepseek.com 或官方 App，即可与最新的 DeepSeek-V4 对话，探索 1M 超长上下文记忆的全新体验。API 服务已同步更新，通过修改 model_name 为 deepseek-v4-pro 或 deepseek-v4-flash 即可调用。