【2024年2月22日,美国圣何塞讯】, Inc.(纳斯达克股票代码:SMCI)作为AI、云端、存储和5G/边缘领域的全方位IT解决方案制造商,正在扩展其AI解决方案产品组合,让客户在公共空间、零售商店或工业基础架构等边缘位置能有效运用AI的强大性能。通过使用搭载NVIDIA GPU的应用优化服务器,可更轻松地微调预训练模型(Pre-trained Model)及将AI推论解决方案部署在产生数据的边缘端,进而缩短响应时间与改善决策。
本文引用地址:总裁兼首席执行官梁见后(Charles Liang)表示:“Supermicro拥有最多元的边缘AI解决方案产品组合,能支持客户用于边缘环境的预训练模型。Supermicro Hyper-E服务器搭载两个第五代Intel® Xeon®处理器并支持最多三个NVIDIA H100 Tensor Core GPU,能为边缘AI提供优异的性能。借由这些具有最高8TB内存的服务器,我们能将数据中心的AI处理性能带至边缘位置。随着企业通过在边缘端处理AI数据来建立竞争优势,Supermicro也将继续为行业提供优化解决方案。”
通过这些服务器的优化与升级,用户不再需要将数据传回云端进行处理,只需必要时把信息撷取回边缘端即可。同时,客户现在可以使用预先训练且性能优化后的大语言模型(LLM),并通过NVIDIA AI Enterprise在其边缘位置使用,以便在靠近数据生成端进行实时、精准的决策。
NVIDIA合作伙伴联盟副总裁Kevin Connors表示:“越来越多来自医疗、零售、制造和汽车等领域的企业有意在边缘端运用AI技术。Supermicro的全新NVIDIA认证系统由NVIDIA AI平台驱动,提供了最高性能的加速计算基础架构,并通过NVIDIA AI Enterprise软件协助运行边缘 AI 工作负载。”
例如,Supermicro的Hyper-E服务器SYS-221HE系列便针对边缘训练和推理进行了优化,而其具备短机身与前置 I/O设计的系统机型搭载了双路CPU。NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。这些GPU为Supermicro Hyper-E提供足够的计算能力,可在收集、分析和存储资料的边缘端处理 AI 工作负载。Supermicro SYS-221HE也提供前置或后置维护选项,使该服务器可被安装在各种环境内。Eviden等合作伙伴正在打造边缘AI解决方案,进而改善传统零售商店内的客户体验,这些都是Supermicro Hyper-E服务器的性能和灵活性可被运用的案例。
Supermicro的先进边缘服务器还包括:
Supermicro SYS-621C-TNR12R(CloudDC系列)是一款适用于云端数据中心的一体成型机柜式平台。这款紧凑型2U系统能在其25.5吋机箱内支持最多两个双宽GPU和4至12个SATA/SAS硬盘槽。这些硬盘槽可选择性搭配完整NVMe支持。
Supermicro SYS-111E-FWTR是一款高密度边缘系统。该系统高度为1U,并搭载第五代Intel Xeon处理器和两个PCIe 5.0 x16 FHFL插槽,非常适合用于各种网络和边缘应用。
紧凑型Supermicro SYS-E403-13E可搭载第五代Intel Xeon处理器和最多三个NVIDIA GPU,并通过其Box PC机型规格提供数据中心等级的性能。该系统的紧凑机体设计使其能被部署在狭小空间内,例如壁挂式机柜中,或作为便携设备使用。
超短机身SYS-211E-FRN2T的系统深度为300mm,专为空间有限的网络边缘环境所设计。该系统可搭载最高第五代Intel Xeon处理器,并提供AC或DC电源设计选项。
SYS-211SE-31D/A作为强大且多功能的SuperEdge系统之一,是具有三个独立节点的多节点系统。此系统每个节点均具有第五代Intel Xeon处理器、三个PCIe 5.0 x16插槽和最高2TB的DDR5内存。这款2U系统不但具有前置I/O和较广的运行温度范围,其短机身设计更是非常适合数据中心外部的部署。
SYS-E300-13AD是一款紧凑型物联网服务器。该服务器搭载第13代Intel Core处理器,机型尺寸仅265x226mm,是能容纳NVIDIA GPU的最小系统,十分适合为边缘端提供分布式AI性能。
欢迎莅临Supermicro在2024年世界移动通信大会的展位。该大会在西班牙巴塞罗那举办,Supermicro展位位于2 号厅内的2D35展位。
StoreGenius首席执行官Jacque Istok表示:“Eviden的 AI零售解决方案基于Supermicro边缘系统和NVIDIA技术,彻底改变了人们在商店等空间内导览和互动的方式。通过商店的3D模型和能传达适当信息的交互式聊天机器人,此解决方案为客户提供交互式且个人化的购物模式,进而改善购物体验。融合逼真的脸部动画、先进的语音识别和3D建模,使虚拟购物几乎如同在实体商店一样真实。”
相关文章