服务器的快速发展带来了更高的容量需求,也对CPU插槽提出了更高的带宽需求,这些要求推动DDR5服务器内存进一步发展和商业落地。作为内存接口领域领先的IP和技术提供商,Rambus正在不断推动着DDR5在市场上的应用。
服务器对DDR5内存标准提出更高的要求
服务器对DDR5内存标准的要求主要体现在以下:
- 服务器的快速发展带来了更高的容量需求,这也对CPU插槽提出了更高的带宽需求。比如,64字节高速缓存行中,要有相同的内存读取粒度;
- 在RAS(可用性和可维护性)、可靠性、功能方面均提出了更高的要求;
- 在面对更大的容量和更高的带宽的情况下,如何能够在性能保持不变的情况下,将产品的运行维持在正确的冷却功率范围之内,这也给新的服务器带来了很大的挑战;
- 随着服务器接口内存、接口IP产品速度的提升,以及服务器容量需求进一步加大,还需要进一步缩短服务器的启动时间。
综合而言,以上各种要求均推动DDR5服务器内存进一步发展和商业落地。作为内存接口领域领先的IP和技术提供商,Rambus正在不断推动着DDR5在市场上的应用。
Rambus发布第三代6400MT/s DDR5 RCD
近日,Rambus发布了最新的DDR5 RCD Gen3产品,据Rambus内存互连芯片业务部门产品营销副总裁John Eble介绍,全新第三代6400MT/s DDR5 RCD(寄存时钟驱动器)将进一步提升服务器的内存性能。他还透露说,从2022年第四季度开始,DDR5 RCD新品已经进入送样阶段。预计使用DDR5 RCD第三代的系统,将在2024年开始出货,2025年实现量产。
与Rambus第一代4800MT/s DDR5 RCD相比,6400MT/s DDR5 RCD Gen3产品的数据传输速率和带宽提高了33%。第三代新品的发布也扩展了Rambus DDR5 RCD的全产品阵容。目前,该公司DDR5 RCD系列包括:4800MT/s的DDR5 RCD Gen1,5600MT/s的DDR5 RCD Gen2,以及6400MT/s DDR5 RCD Gen3。
关于服务器的功耗问题也非常受关注,这是现在最大的一个限制条件。第三代DDR5 RCD产品可在性能保持不变,甚至提高性能的基础上,而进一步降低功耗。就在三至四个月前,业内发布的新服务器CPU,提高了数据传输速率和相关性能,这也要求与之匹配的DDR5 RCD产品性能更优,来满足进一步缩短CPU启动时间的需求,为服务器应用的稳定发展提供更好的技术支持。
对此,John强调说,RCD是DIMM(Dual-Inline-Memory-Modules,即双列直插式存储模块)中的一个重要组件。在DDR4到DDR5的升级中,DIMM发生了一些变化。
具体来看,DDR4的RDIMM(带寄存器的双线内存模块)通常为单通道,它采用8位子通道传输数据,在两侧配备了ECC(一种能够实现“错误检查和纠正”的技术),一共具备72位宽的数据通道(包括64位数据和8位ECC)。
而DDR5 RDIMM则采用了16位的突发长度,每个DIMM有两个子通道,每个子通道是40位(包括32位数据和8位 ECC),子通道分别负责不同的任务。同时,DDR5还增加了引脚数量。为了能更好地配合所增加的引脚数,与之配套的RCD在接口上做了一些调整,从DDR4中的33位SDR,调整到DDR5中的10位DDR双子通道的协议和方案。
考虑到架构和DRAM技术上的改变,DDR5的带宽比DDR4有显著提升。比如,DDR4的最高带宽约为3200MT/s,DDR5的最高带宽可达8000MT/s以上。
此外,为了更好的配合DDR5,以及6400MT/s DDR5 RCD Gen3,Rambus还增加了一些新的功能和特性,包括SPD Hub、串型检测集线器、温度传感器等,这些新功能和特性可更好地为RCD新品提供支持。
以上表格对DDR5与DDR4 DIMM的性能、容量及功耗做了对比。除了前述的数据传输速率、通道架构、CA总线、突发长度的变化之外,DDR5在DRAM芯片密度上也有很大的升级:之前传统的DIMM经历了从16Gb SDP到64GB DIMMs的升级,CID支持8-hi的堆栈,而DDR5比DDR4有更大容量的DIMMs,从64GB SDP提高到了256GB,并且支持16-hi堆栈(对于64Gb内存密度,CID支持仅限于8-hi堆栈)。另外,在功耗上,DDR5的DIMM运行电压降到了1.1伏,同时CA总线获得升级,对引脚采用分组协议,每个通道达到了10位DDR,并采用了PoDL(数据线供电)协议。
所以,每次DDR迭代,不仅在数据传输速率上获得升级,而且还增加了带宽和容量,时钟频率和技术也在进步,并能降低客户总体拥有成本(TCO)。
实际上,DDR5 RCD产品的核心优势是,可进一步优化服务器的设计及性能,不论是单服务器主板,还是双CPU系统,它们都能获得优化。
随着RCD产品的进一步优化和迭代,它的信号完整性会变得更好,DIMM和CPU之间的信号完整性也会更加优秀,性能更加卓越。同时,也可进一步降低DRAM的相关工作负载,为DIMM整体的电力输送、系统管理和遥测技术提供支撑,这些都是RCD和DDR5的应用方向。
Rambus在推动DDR5的迭代和发展
据介绍,Rambus从2016年开始,就一直在推动DDR5的迭代和发展,并坚持长期投资。该公司不仅是首个推出第一代DDR5 RCD产品的领先提供商,而且在第二代和第三代产品上分别实现了4800MT/s和6400MT/s的数据传输速率。此外,Rambus也在积极地参与JEDEC相关的标准制订,不断推动该技术规格的进一步发展和成熟。
在后续的媒体问答环节,John还透露说,最近很火的ChatGPT技术,或利好服务器产业。他认为,随着RCD产品的迭代和技术的进步,它将很大程度上帮助大家去克服ChatGPT应用对服务器带来的挑战。Rambus从事内存创新的业务,以确保随着计算引擎的扩大,能够从内存中为这些计算引擎提供数据。
像ChatGPT这样的人工智能应用,可能将需要一种多管齐下的解决方案,将可能推动DDR5应用的快速发展。因此,扩大在DDR5内存接口芯片领域的领导地位,并定义下一代架构,以低延迟和高可靠性,继续扩大内存、容量和带宽。此外,CXL也是另一项非常重要的配合性技术,在未来的服务器中具有许多潜在的优势,能以有效和可扩展的方式增加内存、容量和带宽。
Rambus大中华区总经理苏雷指出,ChatGPT需要海量的数据进行深度的机器学习,以完成一个训练的模型和推理。它会依赖于更高的算力,这方面的算力更多是趋向于矩阵类和卷积类的计算。它对内存的需求也体现在训练和推理AI芯片上,或者是对加速模块里的内存带宽有一定需求。针对这方面的需求,Rambus有先进的HBM技术和解决方案,他相信继DDR技术之后,HBM也会成为该领域的重要推力。
值得注意的是,DDR5的内存接口芯片已经用于PC和笔记本电脑,预计这一趋势还将继续发展。John表示,通常而言,用于PC和笔记本电脑上的DDR5主要以UDIMM(无缓冲双列直插式内存模组)和SODIMM(小型双列直插式内存模块)的形式为主。Rambus的RCD产品本身有SPD集线器,它可同时用于服务器和PC的UDIMM或SODIMM上。这意味着,它既可用于服务器,也可用于客户端或PC市场。
另外一个例子是PMIC。针对服务器市场和PC市场开发了两个不同的版本,但确实有很多重合的地方。随着采用DDR5的PC进入更高的时钟频率,将有更多的机会获得更多的配套芯片,这些芯片将重新使用服务器领域的芯片,或者以更低的目标成本、更低的功率和适量的功能和性能定义相关产品。