NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施

发布时间:2024-03-19  

NVIDIA 发布全新交换机,全面优化万亿参数级 GPU 计算和 AI 基础设施


● NVIDIA Quantum-X800 InfiniBand 网络,打造性能最强大的 AI 专用基础设施

● NVIDIA Spectrum-X800 以太网络,数据中心必备的优化 AI 网络

● NVIDIA 软件实现了跨  Blackwell GPU、新交换机和 BlueField-3 SuperNIC 的分布式计算,大幅提升了 AI、数据处理、高性能计算和云工作负载的性能


 image.png


美国加利福尼亚州圣何塞 —— GTC —— 太平洋时间 2024 年 3 月 18 日 —— NVIDIA 发布专为大规模 AI 量身订制的全新网络交换机 - X800 系列。


NVIDIA Quantum-X800 InfiniBand 网络和 NVIDIA Spectrum™-X800 以太网络是全球首批高达 800Gb/s 端到端吞吐量的网络平台,将计算和 AI 工作负载的网络性能提升到了一个新的水平,与其配套软件强强联手可进一步加速各种数据中心中的 AI、云、数据处理和高性能计算(HPC)应用,包括基于最新的 NVIDIA Blackwell 架构产品的数据中心。


NVIDIA 网络高级副总裁 Gilad Shainer 表示:“NVIDIA 网络平台是 AI 超级计算基础设施实现大规模可扩展的核心。基于 NVIDIA X800 交换机的端到端网络平台,使新型 AI 基础设施轻松运行万亿参数级生成式 AI 业务。”


Quantum InfiniBand 和 Spectrum-X 以太网的早期用户包括微软 Azure 、Oracle Cloud Infrastructure 和 Coreweave 等。


微软 Azure AI 基础设施副总裁 Nidhi Chappell 表示:“AI 是一个将数据转化为知识的强大工具,支撑这种转化的基础就是数据中心演进成为了高性能的 AI 引擎,这个演进又对网络基础设施提出了更大的需求。通过与 NVIDIA 网络解决方案的全新整合,微软 Azure云将持续构建我们的基础设施,推动 AI 云走向新的台阶。”


树立极致性能的新标杆


Quantum-X800 平台树立了 AI 专用基础设施极致性能的新标杆,该平台包含了 NVIDIA Quantum Q3400 交换机和 NVIDIA ConnectXⓇ-8 SuperNIC,二者互连达到了业界领先的端到端 800Gb/s 吞吐量,交换带宽容量较上一代产品提高了 5 倍,网络计算能力更是凭借 NVIDIA 的 SHARP™ 技术(SHARPv4)提高了 9 倍,达到了 14.4Tflops。


Spectrum-X800 平台为 AI 云和企业级基础设施带来优化的网络性能。借助 800Gb/s 的 Spectrum SN5600 交换机和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平台为多租户生成式 AI 云和大型企业级用户提供各种至关重要的先进功能。


Spectrum-X800 通过优化网络性能,加快 AI 工作负载的处理、分析和执行速度,进而缩短 AI 解决方案的开发、部署和上市时间。Spectrum-X800 专为多租户环境打造,实现了每个租户的 AI 工作负载的性能隔离,使业务性能能够持续保持在最佳状态,提升客户满意度和服务质量。


NVIDIA 软件助一臂之力


NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络加速通信库、软件开发套件和管理软件等全套软件方案。


其中的 NVIDIA 集合通信库(NCCL)可将 GPU 的并行计算任务扩展到 Quantum-X800 网络,利用其基于 SHARPv4 的强大网络计算能力和对 FP8 的支持,为大模型训练和生成式 AI 提供超强的性能。


NVIDIA 的全栈软件方案带来了先进的可编程性,使数据中心网络变得更加灵活、可靠和灵敏,既提高了整体运营效率,又满足了现代应用和服务的需求。


生态里程碑


全球多家头部基础设施供应商和系统厂商将在明年开始提供基于 Quantum-X800 和Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔科技、Eviden、Hitachi Vantara、慧与、联想、超微和 VAST Data 等。


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    规模和东西向流量的不断扩大,数据中心网络架构也在不断演进。在传统的三层拓扑中,服务器之间的数据交换需要经过接入交换机、汇聚交换机和核心交换机,这给汇聚交换机和核心交换机带......
    、4路PCIe V4.0,支持广泛的车内连接 Ÿ   集成3端口以太网TSN交换机带来3路2.5 Gbps带宽,以在汽车主干网和外部环境实现快速且低延迟通信;该交换机已经通过思博伦汽车C1一致......
    Marvell收购)预测未来ADAS系统的车载网络架构为例,其中有两个中央计算单元(GPU/CPU),通过三个交换机来连接所有的摄像机和传感器,全车采用以太网连接。每一个传感器都需要部署一个PHY芯片......
    是包含了AD/FAS智能驾驶服务器和IVI座舱服务器。对于Zonal模块,就是传感器、致动器加网关,交换机加MCU实际就是网关。对于那些主要是CAN网络的部分,交换机就不需要了,CAN网络没那么复杂,以太网网络的部分则需要以太网交换机......
    /FAS智能驾驶服务器和IVI座舱服务器。对于Zonal模块,就是传感器、致动器加网关,交换机加MCU实际就是网关。对于那些主要是CAN网络的部分,交换机就不需要了,CAN网络没那么复杂,以太网网络的部分则需要以太网交换机......
    传统汽车领域的域控制器相比差别较大。 作为服务器领域的专业厂家,浪潮自然使用了PCIe交换机连接4个Orin,而传统汽车领域为了节约成本,一般用以太网交换机。目前主流的以太网交换机带宽非常低,只有0.125GB/s,而英......
    服务器领域的专业厂家,浪潮自然使用了PCIe交换机连接4个Orin,而传统汽车领域为了节约成本,一般用以太网交换机。目前主流的以太网交换机带宽非常低,只有0.125GB/s,而英伟达多显卡之间连接用的NVLink带宽......
    ,以太网使用一根同轴电缆将多个设备直接连接在一起。后来为了消除原始方案中的多点传播缺点而开发了交换机。然而,交换机带来了复杂性和成本问题,并要求设备和交换机之间建立单点对点连接。 在以......
    博通重磅产品发布,引领PCI-e交换机和重定时器市场;如果我们有两年甚至四年更长的时间暂停向机器添加更快的计算引擎,那么服务器设计的情况将会好得多。 这样,我们就可以让内存子系统和 I/O 子系统赶上并更好地利用这些计算......
    交换机的工作原理 交换机的主要功能;  交换机是一种计算机网络设备,用于在局域网或广域网中转发数据包。它的主要功能是将来自一台计算机的数据包转发到另外一台计算机,以实现计算机之间的通信。交换机......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>