IT之家（RSS）
Skymizer 公布 AI 推理解码加速器：单 PCIe AIC 可集成 384GB 内存
阅读原文· ithome.comAI 摘要
中国台湾地区AI IP企业Skymizer近日发布推理解码加速器芯片HTX301，该芯片可与GPU协同工作，加速AI推理结果的输出，提升算力系统利用率和能效。HTX301基于HyperThought软硬件协同平台，采用LISA指令集架构，专注于带宽密集型负载处理。其支持SoC与PCIe AIC两种部署形态，其中单张PCIe加速卡可集成6颗HTX301芯片，提供总计384GB内存，足以满足7000亿参数大模型的本地运行需求，而整卡功耗仅为240瓦。
原文
IT之家 5 月 7 日消息，中国台湾地区 AI IP 企业 Skymizer 近日发布了其推理解码阶段加速器芯片 HTX301，这款芯片可与负责预填充阶段的 GPU 结合加速推理结果输出，提升算力系统的利用率和整体能效。
IT之家了解到，HTX301 基于该企业的 HyperThought 软硬件协同设计平台采用 LISA 语言指令集架构，专注带宽密集型负载。
其采用了一种可扩展的设计方案，支持 SoC 与 PCIe AIC 部署形态。后者可在单卡上集成 6 颗 HTX301 芯片与合计 384GB 内存，满足 700B 高参数大模型本地运行的需求，同时功耗仅有 240W。