葫芦电子社区-电子元器件库存搜索引擎，为您网罗全球厂商代理商库存

  • 首页
  • AI及HPC需求带动，今年HBM需求容量增近6成

AI及HPC需求带动，今年HBM需求容量增近6成

发布时间:2023-06-30  
技术咨询
代买器件
商务客服
研发客服

【导读】为解决高速运算，内存传输速率受限于DDR SDRAM带宽无法同步成长的问题，高带宽内存（High Bandwidth Memory，HBM）应运而生，革命性传输效率是让核心运算组件充分发挥效能的关键。市调机构研究显示，高阶AI服务器GPU搭载HBM已成主流，2023年全球HBM需求量年增近六成，到2.9亿GB，2024年再成长三成。


为解决高速运算，内存传输速率受限于DDR SDRAM带宽无法同步成长的问题，高带宽内存（High Bandwidth Memory，HBM）应运而生，革命性传输效率是让核心运算组件充分发挥效能的关键。市调机构研究显示，高阶AI服务器GPU搭载HBM已成主流，2023年全球HBM需求量年增近六成，到2.9亿GB，2024年再成长三成。


AI及HPC需求带动，今年HBM需求容量增近6成

市调机构预估到2025年，全球若以等同ChatGPT的超大型AIGC产品五款、Midjourney中型AIGC产品有25款，以及80款小型AIGC产品估算，所需运算资源至少145，600~233，700颗NVIDIA A100 GPU，加上新兴应用如超级计算机、8K影音串流、AR/VR等，也同步提高云端运算系统负载， 显示高速运算需求高涨。

由于HBM拥有比DDR SDRAM更高带宽和较低耗能，无疑是建构高速运算平台的最佳解决方案，2014与2020年发表的DDR4 SDRAM及DDR5 SDRAM便可究其原因，两者带宽仅相差两倍，且不论DDR5或将来DDR6，追求更高传输效能同时，耗电量也同步攀升，势必拖累运算系统效能表现。若进一步以HBM3与DDR5为例，前者带宽是后者15倍，且能透过增加堆叠颗粒数量提升总带宽。HBM可取代部分GDDR SDRAM或DDR SDRAM，更有效控制耗能。

市调机构表示，主要由搭载NVIDIA A100、H100、AMD MI300及大型CSP业者如Google、AWS等自研ASIC的AI服务器成长需求较强劲，今年AI服务器出货量（含搭载GPU、FPGA、ASIC等）出货量预估近120万台，年增率近38%，AI芯片出货量同步看涨，可望成长突破五成。


免责声明：本文为转载文章，转载此文目的在于传递更多信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行处理。


推荐阅读：

文章来源于:电子元件技术    原文链接
本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

相关文章

    货是不可行的，对下半年的需求还是应该更积极些。 相比去年，3月动力电动汽车企业的需求也和8月份左右的量纲看齐。好消息是今年哪怕整体市场不行，新能源汽车还是行的。但是随着整个市场结构的变化，车企......
    和236.5亿个，进出口总值分别为306.72亿美元和131.05亿美元。 累计2023年前3个月（2023年1-3月），中国集成电路进口产品无论从数量还是总值而言都有所下滑。 从数量而言，今年前3......
    终端、总线监视器、总线控制器组成。 总线控制器(BC)是总线系统中组织信息传输的终端。 总线监控器(BM)是总线系统中指定做接收且记录总线上传输的信息并有选择的提取信息以备后用的终端。 远程终端 (RT......
    硬件、嵌入式硬件知识-目录篇; 废话不多说，下面是总结的内容。 主要是硬件. ......
    host block. 也就是总线时钟，包括USB时钟。 PCLK is used for APB bus, which is used by the peripherals such as WDT......
    时间分为两种，系统时间与硬件时间。 我们一般看到的时间就是系统时间，比如现在是11:45 am。 硬件时间指的是主板上CMOS中的时间或RTC中的时间，这两个时间并不是总是同步的，一般情况下大约11分钟......
    则因川普当选，美国将大幅举债，兴建基础建设，联准会（FED）升息压力提高，促使金价如自由落体般跳水。专家从供需面来看，指出实体黄金需求急冻、供给过剩，未来 3-6 个月金价可能持续低档徘徊。 Seeking......
    50MHz。 Fclk（给CPU核供给时钟信号，我们所说的s3c2410的cpu主频为200MHz，就是指的这个时钟信号，相应的，1/Fclk即为cpu时钟周期）、Hclk（为AHB bus......
    8051单片机-多机通信的研究;单片机构成的多机通信系统中常采用总线型主从式结构。在多个单片机组成的系统中，只允许存在一个主机，其他的就是从机，从机要服从主机的控制，这就是总线型主从式结构。 当......
    以前品牌形象不一致。如果改了，就跟新品牌在同一个起跑线，就很纠结。所以，虽然品牌认知度方面，国外老品牌还是要更好一些。但是总的来讲，由于新造车势力这几年的蓬勃发展，在品......
平台入驻

我们与500+贴片厂合作，完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页，多渠道推广，SEM/SEO精准营销以及与公众号的联合推广...详细>>

原厂代理商合作

利用葫芦芯平台的卓越技术服务和新产品推广能力，原厂代理能轻松打入消费物联网（IOT）、信息与通信（ICT）、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

闲置物料合作

充分利用其强大的电子元器件采购流量，创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术，不仅可以助你轻松识别与连接到需求方，更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

生态合作

我们的目标很明确：构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前，我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

加工与定制类服务商合作

我们深知加工与定制类服务商的价值和重要性，因此，我们倾力为您提供最顶尖的营销资源。在我们的平台上，您可以直接接触到100万的研发工程师和采购工程师，以及10万的活跃客户群体...详细>>

线上代理合作

凭借我们强大的专业流量和尖端的互联网数字营销技术，我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品，都可以通过我们的平台迅速传达给目标客户...详细>>

邮件营销及广告服务

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环，从引流、宣传到最终销售，全程跟进，确保每一个potential lead都得到妥善处理，从而大幅提高转化率。不仅如此...详细>>