近日,中科寒武纪科技股份有限公司(以下简称"寒武纪")的思元370系列智能加速卡与浪潮AIStation智能业务生产创新平台完成兼容性适配认证,将为行业AI用户提供高性能、高密度、高效能比的AI计算加速方案,促进金融、制造、能源等行业的智能转型与升级。
寒武纪是中国智能芯片领域的领先企业。思元370是寒武纪首款采用chiplet(芯粒)技术的AI芯片,集成了390亿个晶体管,最大算力高达256TOPS(INT8),是寒武纪第二代产品思元270算力的2倍。基于思元370,寒武纪推出三款智能加速卡:MLU370-S4加速卡板卡功耗仅为75W,相较于同尺寸GPU,可提供3倍的解码能力和1.5倍的编码能力,AI算力密度与能效比业界领先;MLU370-X4可提供高达256TOPS(INT8)推理算力和24TFLOPS(FP32)训练算力,配合全新基础系统软件平台,可充分满足推训一体AI任务需求;MLU370-X8基于双芯思元370打造,整合了两倍于标准思元370加速卡的内存、编解码资源,同时搭载MLU-Link多芯互联技术,每张加速卡可获得200GB/s的通讯吞吐性能,是PCIe 4.0带宽的3.1倍,可高效执行多芯多卡训练任务。
本次适配认证测试完成了上述寒武纪加速卡在AIStation平台内多个AI业务部署与服务的验证,包括图像识别、目标检测、自然语言处理等。测试结果显示,运行在浪潮AI服务器上的寒武纪MLU370-S4、MLU370-X4、MLU370-X8加速卡,与浪潮AIStation平台无缝对接,在AI计算性能、兼容性和稳定性等方面均达到优异。通过浪潮AIStation平台出色的算力调度与管理,行业AI用户能够灵活使用和扩展寒武纪加速卡的算力,满足典型AI应用需求。
寒武纪加速卡与浪潮AIStation完成兼容性认证,有利于充分发挥寒武纪产品高性能、高密度、高效能比的优势,进一步丰富寒武纪面向实际AI应用场景的解决方案,帮助AI用户更方便快捷地应用寒武纪领先的AI计算加速技术,释放强大算力,促进产业AI化。
浪潮AIStation是面向企业级训练与推理场景开发的智能业务生产创新平台,实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,AIStation为环境构建、模型开发、模型训练、模型评估、模型推理、上线部署全链条全面提速,加快AI开发应用创新落地。
相关文章