IT之家(RSS)
46AI 编辑部评分,满分 100

理想汽车探索自研云端推理芯片,沿用智驾芯片数据流架构

2026-08-14 22:48· 1小时前
AI 导读

理想汽车正探索自研云端推理芯片,采用与智驾芯片相同的数据流架构,项目仍处早期阶段。该芯片可承接部分GPU上的推理任务,包括智驾模型数据处理、测试、仿真及大语言模型请求处理。一种路径是复用车端NPU计算设计,将多个AI计算晶粒封装并配套高带宽内存与高速互联,以分摊研发成本。

IT之家 8 月 14 日消息,晚点 Auto 今天(14 日)晚间援引多个信源消息称,理想汽车正在探索自研云端推理芯片,将采用与智驾芯片相同的数据流架构,项目仍处早期阶段。

AI 数据中心普遍使用 GPU 完成模型训练和推理,也有数据中心部署云端推理芯片。一位芯片行业人士说,云端推理芯片可以承接部分原本在 GPU 上运行的推理任务,这其中包括智驾模型的数据处理、测试、仿真,以及大语言模型的请求处理。模型训练中涉及参数更新的部分,仍需训练芯片。

根据业内人士,在云端使用数据流架构技术上可行。一种路径是复用车端 NPU(AI 处理器)的计算设计,将多个 AI 计算晶粒封装在一起,配套高带宽内存和高速互联,组成规模更大的推理芯片。由此,车端和云端可复用部分设计和软件工具,分摊研发成本。

车端模型、传感器输入和运行节奏相对固定,主要追求低功耗、低延迟和稳定执行。而与车端芯片相比,云端芯片需要同时处理更多模型,模型更新更快,输入长度和并发请求波动更大,还涉及高带宽内存、多芯片互联、动态批处理和集群调度。

据IT之家此前报道,今年早些时候,理想汽车亮相 ISCA 2026,发表题为《马赫 M100:面向通用 AI 计算的编排式数据流架构》的主题演讲,并与谷歌、Meta 等科技公司研究者同台交流、共同探讨 AI 计算架构的未来方向。自 2020 年工业分区设立以来,理想汽车是首家入选的中国汽车企业。

马赫 M100 是全球首款基于数据流架构的大算力端侧推理芯片,其采用 5nm 车规级工艺,单芯片算力 1280TOPS,最终算力利用率达 82%,并搭载 8 通道 LPDDR5X 内存,峰值带宽 273GB/s;CPU 侧配备 24 核 ARM Cortex-A78AE 处理器集群。

来源:IT之家(RSS) · ithome.com

理想汽车探索自研云端推理芯片,沿用智驾芯片数据流架构

IT之家(RSS)·2026-08-14 22:48·1小时前
AI 导读

理想汽车正探索自研云端推理芯片,采用与智驾芯片相同的数据流架构,项目仍处早期阶段。该芯片可承接部分GPU上的推理任务,包括智驾模型数据处理、测试、仿真及大语言模型请求处理。一种路径是复用车端NPU计算设计,将多个AI计算晶粒封装并配套高带宽内存与高速互联,以分摊研发成本。

IT之家 8 月 14 日消息,晚点 Auto 今天(14 日)晚间援引多个信源消息称,理想汽车正在探索自研云端推理芯片,将采用与智驾芯片相同的数据流架构,项目仍处早期阶段。

AI 数据中心普遍使用 GPU 完成模型训练和推理,也有数据中心部署云端推理芯片。一位芯片行业人士说,云端推理芯片可以承接部分原本在 GPU 上运行的推理任务,这其中包括智驾模型的数据处理、测试、仿真,以及大语言模型的请求处理。模型训练中涉及参数更新的部分,仍需训练芯片。

根据业内人士,在云端使用数据流架构技术上可行。一种路径是复用车端 NPU(AI 处理器)的计算设计,将多个 AI 计算晶粒封装在一起,配套高带宽内存和高速互联,组成规模更大的推理芯片。由此,车端和云端可复用部分设计和软件工具,分摊研发成本。

车端模型、传感器输入和运行节奏相对固定,主要追求低功耗、低延迟和稳定执行。而与车端芯片相比,云端芯片需要同时处理更多模型,模型更新更快,输入长度和并发请求波动更大,还涉及高带宽内存、多芯片互联、动态批处理和集群调度。

据IT之家此前报道,今年早些时候,理想汽车亮相 ISCA 2026,发表题为《马赫 M100:面向通用 AI 计算的编排式数据流架构》的主题演讲,并与谷歌、Meta 等科技公司研究者同台交流、共同探讨 AI 计算架构的未来方向。自 2020 年工业分区设立以来,理想汽车是首家入选的中国汽车企业。

马赫 M100 是全球首款基于数据流架构的大算力端侧推理芯片,其采用 5nm 车规级工艺,单芯片算力 1280TOPS,最终算力利用率达 82%,并搭载 8 通道 LPDDR5X 内存,峰值带宽 273GB/s;CPU 侧配备 24 核 ARM Cortex-A78AE 处理器集群。

来源:IT之家(RSS)· ithome.com