作为“AI加速年”，2024年人工智能进展迅猛。得益于GPU、TPU等硬件计算能力的持续提升、算法优化的深化以及数据收集规模的扩大，AI模型在自然语言处理、计算机视觉、自动驾驶等多个领域取得了显著突破。例如，OpenAI、Google和Meta等公司推出的超大规模模型推动了AI技术的前沿发展，且模型训练的规模不断创下新纪录。

然而，随着模型规模的扩大，AI扩展法则迎来了新的挑战。如何优化训练方法、降低计算成本并提高模型能效，成为当前研究的重点。随着AI模型、特别是大规模深度学习模型在训练和推理中对计算资源和内存带宽的需求不断增加，传统内存技术（如DDR）已无法满足大规模模型的需求，这使得HBM技术变得至关重要。

而作为HBM技术的下一代升级，HBM4有望显著提升性能，尤其在AI和高性能计算领域。它将为突破当前瓶颈提供强有力的硬件支持，助力大规模深度学习模型的训练和推理，进一步推动AI技术的进步。Rambus日前在业界率先推出了HBM4IP，旨在在进一步推动高带宽内存技术的应用，满足日益增长的AI计算需求。

“纵观整个行业，我们发现处理器花费大量时间等待内存中的数据返回才能对其进行处理。更高带宽的内存可以更快地将数据返回到处理器，从而减少等待时间，提高数据处理效率，并降低延迟。功耗效率的提高也使我们能够以更低的成本完成处理，因此HBM4的优势在于可以通过减少等待时间来提高性能，以及通过降低功耗来降低运营成本。”近日我们有幸参加了此次重磅发布，Rambus研究员兼杰出发明家Steven Woo博士针对新产品进行了精彩的讲解。

HBM4来了，单个堆栈带宽已达1.6TB/s

通过一个中介层的物理连接，HBM内存得以与处理器相连，该层在连接结构中起到了至关重要的作用。所有这些组件最终通过基板连接并焊接在PCB上，确保了内存和处理器之间的紧密协作。HBM内存的多层堆叠架构使得每个内存芯片能够直接与处理器进行连接，并通过1024根信号路径进行数据传输。这些信号路径包括命令、地址、时钟等多个附加信号，随着HBM3标准的实施，信号路径数量增加到约1700条，超出了传统PCB的承载能力。

作为内存设备与处理器之间的桥梁，为了满足这些高密度信号需求，HBM3采用了硅中介层技术。硅中介层能够在极小的空间内蚀刻出更多的信号路径，从而支持更高的带宽需求，并保证数据传输的高效性和稳定性。这种精密的设计使得HBM内存不仅能提供更高的带宽和容量，还能显著降低延迟，优化了能效，并将内存占用面积最小化。因此，HBM内存在需要极高数据吞吐量和低延迟的应用场景中，尤其是在AI训练和高性能计算领域，发挥着重要作用。

作为高性能计算和AI领域的重要技术，HBM发展经历了多个阶段，从第一代到最新的HBM4，每一代的改进都在不断推动内存技术的边界。

从HBM的第一代到第二代、2E、3E，每一代最显著的变化就是单个堆栈带宽的显著提升。随着技术的不断进步，HBM3E在带宽上的突破尤为突出，单个设备的带宽已经超过1.2TB/s，满足了高带宽内存需求日益增长的市场。主要DRAM制造商，如SK海力士、美光和三星，已宣布推出支持9.6Gbps数据传输速率的HBM3E设备，推动了HBM技术的普及和应用。

随着HBM3E的成功，下一代HBM技术的研发进入了一个新的阶段。当前正在开发的HBM4，作为JEDEC标准化的最新一代技术，预示着内存技术将在性能上取得进一步的突破。虽然HBM4的具体参数尚未最终确定，但从已知的开发数据来看，HBM4的单个堆栈带宽已经达到了1.6TB/s，相比HBM3E进一步提升，这一进步不仅带来了更高的数据传输速率，还为大规模AI模型的训练和高性能计算任务提供了更强的支持。

HBM技术的不断升级离不开内存控制器的支持，尤其是在更高带宽和更复杂架构的推动下。Rambus作为内存控制器IP提供商，在这一过程中发挥着至关重要的作用。凭借着最新发布的HBM4控制器IP，Rambus将会助力内存客户加速推出HBM4的相关产品。

业内首款HBM4控制器IP，加速下一代AI工作负载

Rambus宣布推出业内首款HBM4控制器IP，旨在为下一代AI工作负载提供更强大的硬件支持。随着AI技术的快速发展，特别是在大规模深度学习模型和高性能计算领域，对内存带宽的需求愈加迫切。Rambus的HBM4控制器IP正是为此而设计，能够支持新一代HBM内存的部署，广泛应用于AI加速器、图形处理器（GPU）以及其他高性能计算应用。

全新的HBM4控制器IP基于HBM3的性能基础，进一步提升了数据吞吐量，达到了全新的水平。其提供32个独立通道的接口，数据宽度可高达2048位。以6.4Gbps的数据速率为例，HBM4的总内存吞吐量将比HBM3提高超过两倍，达到1.64TB/s。这一提升为大规模数据处理提供了更加高效的解决方案，尤其适用于需要高带宽的AI和高性能计算任务。

“HBM4控制器IP跟前一代相比最大的改进和区别就是能够支持更大的带宽，我们的控制器能够以更高的速度从DRAM获取数据并将其传回处理器。”Steven Woo强调到，“功耗也更加重要，我们的IP不仅设计为低延迟，而且还具有高能效，因为这些对于处理器来说也很重要。”

与Rambus的HBM3E控制器一样，HBM4内存控制器IP同样具备模块化和高度可配置的特点。客户可以根据不同应用场景的需求，定制合适的内存控制器，满足在尺寸、性能和功能方面的多样化要求。可选的关键功能包括错误更正码（ECC）、读-修改-写（RMW）操作以及错误清理等，这些都能进一步提升系统的稳定性和可靠性。

定制化服务，确保高效成功的HBM系统设计

Rambus推出的HBM4控制器IP不仅在性能上有所突破，还为客户提供了高度定制化的服务，帮助其根据具体应用场景的需求，精确选择合适的内存解决方案。无论是尺寸、性能还是功能，Rambus都提供灵活的选项，以满足各类高性能计算、AI加速和图形处理等领域的需求。关键的可选功能包括错误更正码（ECC）、读-修改-写（RMW）操作及错误清理等，进一步提升了系统的稳定性和可靠性。

为了确保客户能够顺利完成系统集成，Rambus与领先的PHY供应商展开了战略合作，确保用户能够根据需要选择合适的第三方PHY，并保证流片成功。Rambus在HBM内存领域深耕多年，积累了丰富的经验和技术积淀，其市场份额一直领先，并已成功完成超过100次的HBM设计项目。Rambus不仅交付了业界领先的HBM3E内存控制器，还提供了业内数据传输速率最高的HBM2E控制器，速率高达每秒4Gbps。凭借多年的技术积累，Rambus能够确保客户在开发过程中高效推进，避免重新设计，确保一次流片成功。

为进一步提高开发效率并确保高质量的产品交付，Rambus还为客户提供了三大主要支持服务。首先，通过控制器测试平台，Rambus为客户提供完整的控制器代码库回归测试，涵盖广泛的测试序列，包括特定控制器与PHY的组合测试，并基于功能覆盖率进行验证，确保系统的完整性和稳定性。

此外，Rambus还提供了验证IP，并与Avery Design Systems（现为西门子子公司）长期合作，为客户提供多种验证功能模块（BFM），如内存模块BFM、主机BFM和PHY BFM。Rambus深知，成功的系统设计离不开对物理中介层（PHY）的有效支持，因此，Rambus尽最大努力为各类第三方PHY提供广泛支持，确保其控制器能够与各种PHY完美匹配、认证并通过验证，帮助客户轻松实现高效集成。

通过这些定制化的服务和全方位的技术支持，Rambus为客户提供了强大的技术保障，使他们能够在复杂的高性能计算和AI加速领域中，顺利完成系统设计与集成，最终实现一次流片成功，避免任何开发过程中的障碍。

领先布局未来AI内存需求发展，赋能最高性能AI应用

据悉，在Rambus内部不仅设置有常规的产品研发部门，还有一个名为“Rambus Labs”的研究机构，专门着眼于未来的内存需求，研究如何改进未来的人工智能内存，包括如何提供更快的内存、更高的容量和更好的功耗效率。而这也就是Rambus能够持续引领HBM控制器的技术进步，领先于市场提供对人工智能的近期以及未来几年的需求的IP组合技术方案的原因所在。

HBM4 控制器的推出意味着内存行业现在有了一个新的领先解决方案，它具有更高的性能，可以支持下一代AI应用。“回想过去十年，人工智能已经取得了巨大的进步，现在我们能够进行语言处理。新的应用之所以成为可能，实际上是因为有了更好的硬件，而HBM4控制器IP对内存行业的意义在于，我们正在支持下一代应用程序，这将使用户以及硬件和软件开发人员受益。”Steven Woo说到。