AMD首批Instinct MI300X已开始交付

2024-01-23  

AMD最近开始量产出货其最新一代人工智能和高性能计算(HPC)加速器Instinct MI300X,并率先交付合作伙伴LaminiAI使用。LaminiAI将使用MI300X加速器执行大型语言模型(LLM)的计算工作,以满足企业用户的需求。

事实上,LaminiAI与AMD已有多年合作,因此优先获得MI300X的供货并不意外。该公司CEO Sharon Zhou在社群媒体上宣布了这一消息,LaminiAI已经收到了多台配备8个Instinct MI300X加速器的设备,SharonZhou表示,首批AMDMI300X已经投入应用,LaminiAI的新一代LLM集群即将上线。

为了力抗英伟达(NVIDIA),MI300X是AMD Instinct MI300系列的高性能版本,主打AI和HPC计算,其放弃了x86CPU核心,而是搭载更多的CDNA3计算单元,总数达到304个,远高于MI300A的228个。此外,MI300X还配备了192GB HBM3高速存储器,最高频宽高达5.3TB/s。

根据AMD官方性能测试,MI300X的表现优于市面上已有的Nvidia H100 80GB,甚至有可能对即将上市的H200 141GB构成威胁。目前,Meta、微软等巨头客户已采购了大量AMD Instinct MI300系列产品,LaminiAI则是首家公开使用MI300X的公司。

封面图片来源:拍信网

文章来源于:全球半导体观察    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。