技术咨询
代买器件
商务客服
研发客服据官网消息，12月19日，首个全国产千卡千亿模型训练平台——KUAE智算中心揭幕仪式在北京成功举办，宣告国内首个以国产全功能为底座的大规模算力集群正式落地。与此同时，摩尔线程联合国内众多合作伙伴发起并成立了“摩尔线程PES - KUAE智算联盟”和“摩尔线程PES - 生态联盟”，共同夯实从智算基础设施到训练与推理的国产一体化生态，持续为我国大模型产业发展加速。
本文引用地址：据官方介绍，摩尔线程KUAE智算中心解决方案以全功能为底座，是软硬一体化的全栈解决方案，包括以KUAE计算集群为核心的基础设施、KUAE Platform集群管理平台以及KUAE ModelStudio模型服务，旨在以一体化交付的方式解决大规模算力的建设和运营管理问题。该方案可实现开箱即用，大大降低传统算力建设、应用开发和运维运营平台搭建的时间成本，实现快速投放市场开展商业化运营。
摩尔线程KUAE支持包括DeepSpeed、Megatron-DeepSpeed、Colossal-AI、FlagScale在内的业界主流分布式框架，并融合了多种并行算法策略，包括数据并行、张量并行、流水线并行和ZeRO，且针对高效通信计算并行和Flash Attention做了额外优化。
目前，摩尔线程支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言等各类主流大模型的训练和微调。基于摩尔线程KUAE千卡集群，70B到130B参数的大模型训练，线性加速比均可达到91%，算力利用率基本保持不变。
文章来源于:电子产品世界 原文链接
本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。
相关文章
妹纸瞬间暴露三围：3D体型扫描仪来了(2016-10-07)
Android均适用的伴侣应用，可用来实时监控用户的健身进展。
健身者只需创建一个帐户就可以体验mPod扫描仪。这种扫描仪能够生成同健身者身体一般大小的3D扫描图，并显示基础代谢率、目标体重和理想心率，并跟......
三星Galaxy Watch FE进军入门智能手表市场(2024-06-17)
楚记录健身成效，便于调整训练计划；其「心率区间指南」功能，还可协助跑者了解心率状况，随时检视运动强度是否符合个人订定目标。
透过内建三合一BioActive传感器，精准测量骨骼肌、基础代谢率、身体所含水分、体脂......
介绍一种用于人体健康监测的全自动可穿戴腿部运动传感系统(2024-06-03)
）全自供电。可穿戴系统由f-TEG、织物应变传感器、超低功耗边缘计算和蓝牙组成。
2. 戴在腿上的f-TEG不仅从身体热量中获取能量，为整个监测系统可持续供电，还可......
华为下周召开鸿蒙大会：基础代码全部捐献(2023-02-20)
华为下周召开鸿蒙大会：基础代码全部捐献;
的HarmonyOS鸿蒙已经成为全球第三大移动生态系统，不仅有华为自己使用鸿蒙，他们还把代码捐献给开源社区，其他厂商也可以接入鸿蒙生态，下周......
SVPWM原理推导与Mathcad建模控制实现(2024-08-05)
SVPWM原理推导与Mathcad建模控制实现;前言：
SVPWM是变流器控制基础，其实现流程大致为，判断合成矢量所在扇区，计算相邻矢量作用时间，计算各桥臂导通时间，得到各相PWM占空比，更新......
电机控制中载波频率设定的五个因素(2023-02-03)
模块温升，这期主要讲讲与这几个因素有关的原因。
1载波频率与什么有关?
载波频率的选择与基波频率、硬件限制、谐波电流、内部软件的实现、功率模块温升有关：
1.1、基波频率：
由电机转速公式可以计算基......
中国科学院天津工业生物技术研究所携手亚马逊云科技推动生物计算设计领域发展(2023-03-28)
中国科学院天津工业生物技术研究所携手亚马逊云科技推动生物计算设计领域发展;
• 亚马逊云科技助力天津工业生物所开发生物计算设计核心数据库和网站工具
• 成功推出全球首个基于图数据库的大肠杆菌调控代谢......
AI辅助诊断早期卵巢癌准确率达93%(2024-02-01)
团队指出，代谢水平上的变化可反映多个分子水平上共同作用的潜在变化，所以他们选择患者个人的代谢图谱作为整个检测方法的基础。质谱法能通过检测代谢物的质量和电荷特征来识别血液中代谢物的存在，将其......
百万倍加速：加速计算助力基因测序突破极限(2023-01-18)
平台，NVIDIA还推出了基于GPU的基因测序分析加速软件—— NVIDIA Clara Parabricks。Clara Parabricks是一款GPU加速的计算基因组学工具包，可提......
百万倍加速：加速计算助力基因测序突破极限(2023-01-19)
了首张人类基因组草图。此后二十年中，以数字生物学为基础的基因组测序技术取得巨大进步，将全基因组测序的成本逐步降低至不到1000美元。一时间，全球对基因测序与分析的需求量出现暴涨。加速计算......