存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制|TrendForce集邦咨询

发布时间:2022-10-11  

TrendForce集邦咨询:存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制

据TrendForce集邦咨询最新服务器相关报告指出,CXL(Compute Express Link)原是希望能够整合各种xPU之间的性能,进而优化AI与HPC所需要的硬件成本,并突破原先的硬件限制。CXL的支援仍是以CPU为源头去考虑,但由于可支援CXL功能的服务器CPU Intel Sapphire Rapids与AMD Genoa现阶段仅支援至CXL 1.1规格,而该规格可先实现的产品则是CXL存储器扩充(CXL Memory Expander)。因此,TrendForce认为,在各种CXL相关产品内,CXL存储器扩充将成为前驱产品,其产品也与DRAM最为相关。

CXL存储器池化功能助攻,AI与HPC可望突破硬件限制,并带动服务器整机DRAM用量

不过,目前CXL 1.1对DRAM来讲,仅为存储器扩充的实践,要到CXL 2.0才会实现存储器池化(memory pooling)。以现阶段而言,以双插槽CPU服务器整机的平均RDIMM使用量约为10-12条(最多为16条),意即RDIMM插槽与通道数尚未全数使用,故以短期而言,一般的computing 服务器仍可凭借升级原有的RDIMM,而仅有需要AI与HPC的应用才会有CXL需求。TrendForce集邦咨询研判,CXL存储器扩充器的用量对于DRAM整体市场的影响度有限,短期内是用以优化HPC的性能而产生的产品。

但在现有的应用下,服务器整机上的DRAM在运行中仍会有闲置而未被使用的容量,这也使得数据中心业者要支付多余的DRAM成本。以长期而言,随着更多元化及更复杂性的应用,服务器整机的DRAM平均搭载容量会呈现逐年增长的趋势,但未来若实践CXL存储器池化的情境下,可使得xPU内的存储器资源可有效被运用。TrendForce集邦咨询认为,CXL存储器池化功能将会收敛买方采购的RDIMM模块的需求用量,使得后续年对年间的服务器 DRAM单机搭载容量增速趋缓。

CXL联盟最终希望通过该界面使得各装置的资源有效运用,进而突破AI与HPC的硬件瓶颈。在CXL的协助下,AI与HPC发展随着模型复杂度的增加,将会助力相关机种的出货量。因此,由这个观点来看,CXL会带动服务器整机的DRAM(亦即合并RDIMM与CXL存储器扩充器计算)平均搭载容量;但以服务器上DRAM用量的年成长速度而言,则会因为CXL可有效率地使用整机DRAM,而使成长率趋缓。

而会大量需要CXL功能的买方以高阶运算机种为主,因此云端服务供应商会是主要的用户。TrendForce集邦咨询亦观察到部分OEM对其HPC运算客户出货的机种,也有需要大容量DRAM扩充之需求,同样将为该产品的潜在采用者。

Montage、Marvell、Microchip营收有望受CXL崛起再攀升

目前原厂开发的CXL存储器扩充器使用的是DDR5,不过现阶段仍受PCIe 5.0接口速度局限,释出速度仅略等同于DDR4。未来一旦CPU支援到PCIe 6.0亦或是更高的规格,则足以使DDR5发挥完整的速度。以CXL存储器扩充器结构来看,除了DRAM外,需搭配一颗CXL控制器((CXL controller)),其厂商有Montage、Marvell与Microchip等,故CXL的崛起不但能直接带动控制器供应商的营收外,也不排除未来可能出现类似模组厂亦或是云端服务供应商自研的模式,配套控制器与DRAM后而生产CXL存储器扩充器。

综上所述,现阶段服务器性能停滞可望因CXL的发展获改善,将有效提高DRAM在服务器上的使用,免于闲置成本的增加。而未来CXL2.0规范将可改变现有的硬件瓶颈,并在存储器池化的协助下,CXL将可以发挥更大优势。而随着更多元化及更复杂性的应用,HPC与AI等高强度运算对于xPU仰赖更胜于以往。在存储器池化的共享下,模型的设计能摆脱硬件瓶颈,持续往更复杂的架构建设。此外,CXL导入将随着未来功能强度而普及化,尤其在云端业务大规模导入在产业中,此规范更能优化服务器之间的沟通,因CXL建立彼此间沟通的高速互连性,两者交互有助于扩展服务器平行间运算力应用与优化总体拥有成本(Total Cost of Ownership,TCO)。

文章来源于:全球半导体观察    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    第8章 单片机系统扩展设计;系统接口扩展技术 存储器扩展技术 输入输出(I/O)和中断扩展技术 MCS-51单片机并行接口基本方法 单片机与片外并行器件接口设计有两个任务:硬件......
    STM32系列微控制器新型存储器扩展技术--FSMC有什么优点?;引言 STM32是ST(意法半导体)公司推出的基于ARM内核Cortex-M3的32位微控制器系列。Cortex-M3内核......
    什么是FMSC_STM32_FMSC使用理解;  什么是FSMC   FSMC(Flexible Static Memory Controller,可变静态存储控制器)是STM32系列采用的一种新型的存储器扩展技术......
    微控制器能够以更优越的性价比,面向更广泛的应用领域。 STM32系列微控制器为用户提供了丰富的选择,可适用于工业控制、智能家电、建筑安防、医疗设备以及消费类电子产品等多方位嵌入式系统设计。STM32系列采用一种新型的存储器扩展技术......
    各功能部件都是按总线关系设计并集成为整体的。 三总线:地址总线(AB)、数据总线(DB)、控制总线(CB)。 单片机系统扩展主要包括存储器扩展和I/O接线部件扩展。 STC89C52单片机的存储器扩展包括程序存储器扩展又包括数据存储器扩展......
    存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制|TrendForce集邦咨询;TrendForce集邦咨询:存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务......
    EPROM应用电路图为了延长放音时间,可以扩展存储器到大于1M位。扩展办法如下图所示: 存储器扩展图   ......
    功能寄存器映射 51单片机内部还有一些特殊功能寄存器,例如中断控制器、定时器/计数器等,也可以通过地址总线和数据总线进行访问和设置。 三、总线应用 1. 存储器扩展 当需要扩展51单片机的存储容量时,可以......
    等等的开销都是基于内部的SRAM,Crotex-Mx通过DCode总线来访问它。 FSMC:Flexible Static Memory Controller可变静态存储控制器,这是STM32系列采用一种新型的存储器扩展技术......
    STM32如何通过FSMC点亮LCD;FSMC是Flexible static memory controller(可变静态存储控制器)的简称,是STM32系列采用的一种新型的存储器扩展技术,支持......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>