NVIDIA CPU+GPU超级芯片量产:功耗降低超80%

发布时间:2023-05-30  

2022年3月,NVIDIA发布了首款数据中心CPU Grace、新一代高性能计算GPU Hopper,同时利用它们打造了两颗“超级芯片”(Super Chip),一是Grace CPU二合一,二是Grace CPU+Hopper GPU二合一,看起来都极为酷炫。

现在,足足14个月过去了,NVIDIA终于宣布,GH200 Grace Hopper超级芯片已经全面投产,将为复杂AI、HPC工作负载提供澎湃的动力。

再加上Grace CPU、Hopper GPU、Ada Lovelace GPU、BlueField DPU等全套系统方案,NVIDIA现在已经有400多种配置,可满足市场对生成式AI的激增需求。

欧洲和美国的超大规模云服务商、超算中心,将会成为接入GH200系统的首批客户。

同时,黄仁勋还公布了Grace Hopper的更多细节,尤其是它的CPU、GPU之间使用NVLink-C2C互连技术,总带宽高达900GB/s,相比传统的PCIe 5.0通道超出足足7倍,能够满足要求最苛刻的生成式AI和HPC应用,功耗也降低了超过80%。

Grace CPU拥有72个Armv9 CPU核心,缓存容量198MB,支持LPDDR5X ECC内存,带宽高达1TB/s,还支持PCIe 5.0。

Hopper GPU则采用台积电4nm定制工艺,集成多达800亿个晶体管,号称世界上最先进的芯片,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存,支持6144-bit HBM3/2e高带宽内存。

同时,NVIDIA宣布推出一款新型大内存AI超级计算机“DGX GH200”,可用于开发面向生成式AI语言应用、推荐系统和数据分析工作负载的下一代大模型。

它配备了多达256颗GH200 Grace Hopper超级芯片,彼此NVLink Switch System互相连接,带宽提升48倍以上,对外可作为单个GPU使用,浮点性能高达1PFlops(每秒1千万亿次浮点计算)。

同时还有144TB共享内存,相比2020年的上一代DGX A100增大了近500倍。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    定时器可能有很多不同的定时需求。 这个可能是最多人的选择,毕竟省心、省成本。 3.使用RTC实时时钟 可以使用STM32内置的RTC实时时钟模块来实现延时功能。 将RTC设置为2小时的计时周期,并启用RTC中断。 在中......
    单片机定时功能用什么实现?有哪几种方式?;在STM32中实现延时2小时的功能,有以下几种方式: 1.使用延时函数 可以使用STM32提供的延时函数来实现延时功能,延时函数根据CPU时钟......
    国 DALLAS 公司推出的一种高性能、低功耗的实时时钟芯片, 附加 31 字节静态 RAM,采用 SPI 三线接口与 CPU 进行通信,并可采用突发方式一次传送 多个字节的时钟信号和 RAM 数据。实时......
    定制的集成CPU性能领先竞品高达37%,同时功耗比竞品低54%1 。显著提升的CPU性能将树立移动计算新标杆,助力用户更高效地完成任务。骁龙X Plus还旨在满足终端侧应用的需求,采用具有45TOPS算力......
    80C51单片机的定时计数器的结构和工作原理;单片机怎么学,先从哪入手开始学,怎么开始入门 无论是对于新手还是已经在行内的朋友,学习单片机技术,实战动手能力十分重要,如果......
    汽车ECU故障诊断DTC怎么看;DTC怎么看 使用DTC指示具体的故障类型,那么通过读取DTC,汽车维修人员就可以确定出现了什么问题,并进行相应的修复。DTC通常由一系列的字母和数字组成,如DTC为......
    年已经失守高性能处理器市场了。AMD翻身的机会得靠明年的Zen处理器了,它是AMD最近几年研发的高性能CPU架构,未来将跟Intel争夺服务器、高端桌面市场。那么Intel怎么看待AMD的威胁呢?有消息认为Intel......
    科还加入了一系列硬件加速器,支持诸如双摄人像模式、电子图像防抖 (EIS) 和滚动快门补偿 (RSC) 等先进拍照功能。 Helio G91 还集成了联发科的 HyperEngine 游戏引擎,该引擎可以根据实时功耗、温度......
    %,同时功耗比竞品低54%[1] 。显著提升的CPU性能将树立移动计算新标杆,助力用户更高效地完成任务。骁龙X Plus还旨在满足终端侧AI应用的需求,采用具有45TOPS算力的高通Hexagon™......
    树莓派5来了,工程师怎么看;距离树莓派发布上一代产品(rpi4 @2019)已有4年,树莓派4也曾在一段时间内炒到“天价”,成为理财产品,甚至之前还有新闻说今年不会更新。 但现在,树莓......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>