AMD Instinct加速器系列亮相Computex 2024

发布时间:2024-06-04  

董事长兼首席执行官丽莎Su博士在Computex主题演讲中公布了 Instinct系列的重大进展。该公司宣布了的扩展多年路线图,承诺每年改进AI性能和内存功能。这标志着人工智能和数据中心工作负载的创新新时代。

本文引用地址:

在这里插入图片描述

Instinct MI325X

更新的路线图以新的AMD Instinct MI325X加速器开始,该加速器将于2024年第四季度上市。该加速器具有288GB的HBM3E内存和每秒6 TB的内存带宽。它采用通用基板服务器设计,确保与AMD Instinct MI300系列兼容。

在这里插入图片描述


MI325X拥有业界领先的内存容量和带宽,性能分别是竞争对手的2倍和1.3倍。它提供了比竞争对手高1.3倍的计算性能,使其成为AI工作负载的强大工具。

下一代:MI350和MI400系列

继MI325X之后,AMD Instinct MI350系列将采用全新的AMD CDNA 4架构,预计将于2025年推出。该系列将在AI推理性能方面带来实质性飞跃,预计与AMD Instinct MI300系列相比将增加35倍。MI350X加速器将保持通用基板设计,采用先进的3nm工艺技术,支持FP4和FP6 AI数据存储器,并具有高达288GB的HBM3E内存。

在这里插入图片描述


由AMD CDNA“Next”架构驱动的AMD Instinct MI400系列将于2026年发布。

AMD Instinct MI300X加速器的采用和影响

AMD Instinct MI 300 X加速器已被主要合作伙伴和客户广泛采用,包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD加速计算公司副总裁布拉德·麦克雷迪(Brad McCredie)强调了MI 300 X加速器的卓越性能和价值主张,并指出了它们在推动人工智能创新方面的重要作用。他说:“随着我们每年更新产品的节奏,我们坚持不懈地推进创新步伐,为人工智能行业提供领导能力和性能,我们的客户希望推动数据中心人工智能培训和推理的下一次发展。

AMD AI软件生态系统的进步

AMD ROCm 6开放软件堆栈不断成熟,使AMD Instinct MI 300 X加速器能够为流行的大型语言模型(LLM)提供令人印象深刻的性能。在使用八个AMD Instinct MI 300 X加速器和运行Meta Llama-3 70 B的ROCm 6的服务器上,客户可以实现比竞争对手高1.3倍的推理性能和令牌生成。

在这里插入图片描述


此外,在Mistral-7 B上,一台配备ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表现可超过竞争对手1.2倍。

在这里插入图片描述


AMD与最大的AI模型库Hugging Face的合作进一步强调了生态系统的稳健性。Hugging Face每晚测试700,000个最受欢迎的型号,以确保在AMD Instinct MI300X加速器上实现无缝功能。AMD还在继续其与流行的AI框架(如PyTorch、TensorFlow和JAX)的上游工作,以确保广泛的兼容性和增强的性能。

关键路线图亮点

在主题演讲中,AMD公布了AMD Instinct加速器路线图的最新年度节奏,以满足对计算不断增长的需求。这确保了AMD Instinct加速器将继续推动下一代前沿AI模型的开发。

在这里插入图片描述

- AMD Instinct MI325X加速器:将于2024年第四季度推出,该加速器将配备288GB HBM3E内存,每秒6 TB的内存带宽,以及行业领先的内存容量和带宽。与竞争对手相比,它的计算性能提高了1.3倍。
- AMD Instinct MI350系列:预计在2025年,MI350X加速器将基于AMD CDNA 4架构,并使用先进的3nm工艺技术。它将支持FP4和FP6 AI数据库,并包括高达288GB的HBM3E内存。
- AMD Instinct MI400系列:计划于2026年推出,该系列将利用AMD CDNA“Next”架构,引入新特性和功能,以增强AI训练和推理性能。

在这里插入图片描述

广泛的行业采用

对AMD Instinct MI300X加速器的需求持续增长,众多合作伙伴和客户利用这些加速器来处理要求苛刻的人工智能工作负载。

  • Microsoft Azure:将MI300X加速器用于Azure OpenAI服务和新的Azure ND MI300X V5虚拟机。
    -Dell Technologies:在PowerEdge XE9680中集成MI300X加速器,以处理企业AI工作负载。
    - Supermicro:提供包含AMD Instinct加速器的多种解决方案。
    - Lenovo:ThinkSystem SR685a V3助力混合AI创新
    - HPE:使用MI300X加速器增强HPE Cray XD 675中的AI工作负载。

AMD在上推出了扩展的Instinct加速器路线图,标志着该公司在人工智能和数据中心战略的重要里程碑,展示了其技术创新和市场竞争力,同时也为未来的产品发展和生态系统建设奠定了基础。


文章来源于:电子产品世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>