存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制|TrendForce集邦咨询

发布时间:2022-10-11  

TrendForce集邦咨询:存储器厂聚焦CXL存储器扩充器产品,以突破AI/ML 服务器 DRAM硬件限制

据TrendForce集邦咨询最新服务器相关报告指出,CXL(Compute Express Link)原是希望能够整合各种xPU之间的性能,进而优化AI与HPC所需要的硬件成本,并突破原先的硬件限制。CXL的支援仍是以CPU为源头去考虑,但由于可支援CXL功能的服务器CPU Intel Sapphire Rapids与AMD Genoa现阶段仅支援至CXL 1.1规格,而该规格可先实现的产品则是CXL存储器扩充(CXL Memory Expander)。因此,TrendForce认为,在各种CXL相关产品内,CXL存储器扩充将成为前驱产品,其产品也与DRAM最为相关。

CXL存储器池化功能助攻,AI与HPC可望突破硬件限制,并带动服务器整机DRAM用量

不过,目前CXL 1.1对DRAM来讲,仅为存储器扩充的实践,要到CXL 2.0才会实现存储器池化(memory pooling)。以现阶段而言,以双插槽CPU服务器整机的平均RDIMM使用量约为10-12条(最多为16条),意即RDIMM插槽与通道数尚未全数使用,故以短期而言,一般的computing 服务器仍可凭借升级原有的RDIMM,而仅有需要AI与HPC的应用才会有CXL需求。TrendForce集邦咨询研判,CXL存储器扩充器的用量对于DRAM整体市场的影响度有限,短期内是用以优化HPC的性能而产生的产品。

但在现有的应用下,服务器整机上的DRAM在运行中仍会有闲置而未被使用的容量,这也使得数据中心业者要支付多余的DRAM成本。以长期而言,随着更多元化及更复杂性的应用,服务器整机的DRAM平均搭载容量会呈现逐年增长的趋势,但未来若实践CXL存储器池化的情境下,可使得xPU内的存储器资源可有效被运用。TrendForce集邦咨询认为,CXL存储器池化功能将会收敛买方采购的RDIMM模块的需求用量,使得后续年对年间的服务器 DRAM单机搭载容量增速趋缓。

CXL联盟最终希望通过该界面使得各装置的资源有效运用,进而突破AI与HPC的硬件瓶颈。在CXL的协助下,AI与HPC发展随着模型复杂度的增加,将会助力相关机种的出货量。因此,由这个观点来看,CXL会带动服务器整机的DRAM(亦即合并RDIMM与CXL存储器扩充器计算)平均搭载容量;但以服务器上DRAM用量的年成长速度而言,则会因为CXL可有效率地使用整机DRAM,而使成长率趋缓。

而会大量需要CXL功能的买方以高阶运算机种为主,因此云端服务供应商会是主要的用户。TrendForce集邦咨询亦观察到部分OEM对其HPC运算客户出货的机种,也有需要大容量DRAM扩充之需求,同样将为该产品的潜在采用者。

Montage、Marvell、Microchip营收有望受CXL崛起再攀升

目前原厂开发的CXL存储器扩充器使用的是DDR5,不过现阶段仍受PCIe 5.0接口速度局限,释出速度仅略等同于DDR4。未来一旦CPU支援到PCIe 6.0亦或是更高的规格,则足以使DDR5发挥完整的速度。以CXL存储器扩充器结构来看,除了DRAM外,需搭配一颗CXL控制器((CXL controller)),其厂商有Montage、Marvell与Microchip等,故CXL的崛起不但能直接带动控制器供应商的营收外,也不排除未来可能出现类似模组厂亦或是云端服务供应商自研的模式,配套控制器与DRAM后而生产CXL存储器扩充器。

综上所述,现阶段服务器性能停滞可望因CXL的发展获改善,将有效提高DRAM在服务器上的使用,免于闲置成本的增加。而未来CXL2.0规范将可改变现有的硬件瓶颈,并在存储器池化的协助下,CXL将可以发挥更大优势。而随着更多元化及更复杂性的应用,HPC与AI等高强度运算对于xPU仰赖更胜于以往。在存储器池化的共享下,模型的设计能摆脱硬件瓶颈,持续往更复杂的架构建设。此外,CXL导入将随着未来功能强度而普及化,尤其在云端业务大规模导入在产业中,此规范更能优化服务器之间的沟通,因CXL建立彼此间沟通的高速互连性,两者交互有助于扩展服务器平行间运算力应用与优化总体拥有成本(Total Cost of Ownership,TCO)。

文章来源于:全球半导体观察    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    发展,手机存储器容量的提升。  然而,近期业界透露,因为AI目前缺乏杀手级应用,使得包括三星Galaxy S24,以及苹果iPhone 16提高存储器容量的意义不大,预计将沿用当前的存储器容量......
    覆盖-40℃~+105℃。   FM25S系列产品特点:  存储器容量:512Mb~4Gbit  工作电压范围1.8V/3.3V;  工作温度范围-40℃~+85℃ 以及-40℃~+105℃扩展......
    制功能日益扩大。  标准五:存储容量存储容量是指用户程序存储器的容量。用户程序存储器的容量大,可以编制出复杂的程序。一般来说,小型三菱PLC的用户存储器容量为几千字,而大型机的用户存储器容量为几万字。  标准六:扫描......
    /256/512产品特点: 存储器容量:64K/128K/256K/512Kbit 工作电压范围1.7V~5.5V; 工作温度范围-40℃~+85℃/-40℃~+125℃(扩展); 支持......
    特点: 存储器容量:64K/128K/256K/512Kbit工作电压范围1.7V~5.5V;工作温度范围-40℃~+85℃/-40℃~+125℃(扩展);支持400KHz/1MHz......
    的这些需求自然会加倍。 面对存储器容量增加的压力,许多设计人员产生了“存储器焦虑”:担心片上存储器不够用。而且从可扩展性和成本而言,人们对存储器需求的快速增长都是不可持续的。 解决上述问题的一种方法是,使用......
    如何选择PLC 选择PLC要考虑什么;PLC存储器容量的估算存储器容量是指可编程序控制器本身能提供的硬件存储单元大小,各种PLC的存储器大小可以从该PLC的基本参数表中找到,例如:西门子的S7......
    低功耗的同时提高了性能,并延长了续航时间,提升了能效。STM32U5产品已获得NIST嵌入式随机数熵源认证,是业界首款获此认证的通用MCU。 这款STM32U5 MCU将代码和数据存储容量扩展......
    式随机数熵源认证,是业界首款获此认证的通用MCU。 这款STM32U5 MCU将代码和数据存储容量扩展到128Kbyte闪存,适合成本敏感型应用,同时还针对复杂应用和类似智能手机的复杂用户界面增加了高容量版。集成......
    ,程序存储器容量是256KB,程序存储器类型是FLASH,RAM容量是48K。而STM32F103ZET6不同的是,有144个引脚,程序存储器容量是512KB。 ......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>