AMD推出生成式AI加速器Instinct™ MI300系列,现已向客户提供样品

发布时间:2023-06-14  

  6 月 13 日,在美国旧金山举办的“数据中心和人工智能技术首映式”活动上,AMD正式透露了 Instinct™ MI300 系列加速器家族的新细节,包括推出 AMD Instinct MI300X 加速器,这是世界上最先进的生成 AI 加速器。MI300X 基于下一代 AMD CDNA™ 3 加速器架构,支持高达 192 GB 的 HBM3 内存,以提供大型语言模型训练和生成 AI 工作负载推理所需的计算和内存效率。

  借助 AMD Instinct MI300X 的大内存,用户可以在单个 MI300X 加速器上安装 Falcon-40 等大型语言模型,40B 参数模型.。AMD 还推出了 AMD Instinct™ 平台,该平台将八个 MI300X 加速器整合到一个行业标准设计中,为 AI 推理和训练提供终极解决方案。

  活动上AMD 董事长兼首席执行官苏姿丰( Lisa Su)称,MI300X是AMD真正为生成式人工智能设计的产品,比起英伟达的H100芯片,MI300X提供了2.4倍多的内存和1.6倍多的内存带宽,生成式AI和大语言模型需要电脑的算力和内存大幅提高。此前,路透报导称亚马逊旗下云计算业务正考虑使用AMD的新款人工智能(AI)芯片。

AMD Instinct MI300X 加速器展示

  此外,AMD 还宣布,全球首款用于 HPC 和 AI 工作负载的 APU 加速器 AMD Instinct MI300A现已向客户提供样品。MI300X 从第三季度开始向主要客户提供样品。

  此前,在6月初发布的第 61 期全球超级计算机TOP500信息显示,在所有超算采用的加速器/协处理器(Accelerator/Co-Processor)数量上,NVIDIA(英伟达)为最大赢家。在前28大加速器/协处理器产品中,有20款来自NVIDIA,仅1款来自AMD。

  其中,NVIDIA Tesla V100、NVIDIA A100、 NVIDIA A100 SXM4 40GB、NVIDIA Tesla A100 80G、 NVIDIA Tesla V100 SXM2及AMD Instinct MI250X 位居前六名,安装量分别为61套、27套、18套、10套、 10套、10套,对应占比分别为12.2%、5.4%、3.6%、2%、2% 、2%.

  随着人工智能大模型的快速发展,中国本土云计算企业和大型互联网公司正在加大对加速卡的投入。

  据环球网科技综合报道,字节跳动公司今年已向英伟达订购了价值超10亿美元(约为70亿元人民币)的GPU产品。

  报道称,据知情人士透露,字节跳动已经采购了10万块A100与H800加速卡,其中H800于今年3月才开始生产。目前,仅这一家公司今年的采购数额就已接近英伟达去年在中国销售的商用GPU总销售额。


文章来源于:国际电子商情    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    拓展对苹果和英伟达显卡支持,Linux 6.2 内核发布; 据业内信息,近日 Linux 6.2 版本内核正式发布,该版本合并了对 M1 系列芯片的上游支持,引入了 IPv6 堆栈......
    算能力上相对上代有了翻倍的提升,意味着直播、视频编辑,特别是高清视频编辑的内容创作性能提升明显。 在游戏方面,NVIDIA RTX4090显卡支持非常重要的新技术——NVIDIA DLSS 3......
    ,这是消费级型号未曾推出的配置。 此外,这五款显卡中也没有 2560 CUDA 卡,因此最低的 AD107 只是 RTX 40 的一部分,其最大 TGP 为 175W。 新一代专业卡支持......
    里云的合作将利用两家公司世界一流的技术和软件工程上的能力,满足不断增长的GPU计算解决方案的需求,提供更具沉浸感、更直观的云服务。AMD与业界领袖阿里云紧密合作,确保AMD在高性能显卡......
    上医疗设备不愿意使用GPU的一个原因还跟支持周期有关,游戏卡支持个一两年就能换新,但医疗设备的支持周期很长,为此NVIDIA也跟合作伙伴提供长期的硬件及软件支持。 ......
    压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等,而硬件T&L技术可以说是GPU的标志。 在 PC 独立显卡 GPU 市场,一直以来都是 NVIDIA、AMD 的天下,最近 Intel 也加......
    通用并行计算领域的理想载体芯片。 在性能方面也取得了多项技术进步,取得了长足的发展。英伟达和 AMD 是顶级制造公司,在显卡方面占据了大部分市场份额。此外,两者每年都在快速发展其硅技术,这导致竞争更加激烈。 GPU 是复......
    多年都在推自家的集显或核显产品。毕竟大部分PC用户并不需要高算力的独立GPU。 来源:Jon Peddie Research 现在我们知道,Intel前不久,打算和英伟达、AMD一较高下。不过这可不是Intel进驻GPU或独立显卡......
    苹果高管谈论为何新Mac Pro缺乏独立PCIe显卡支持;虽然新款 Mac Pro 具有六个可用的 PCI Express 扩展插槽,用于音频、视频捕捉、存储、网络等,但这款塔式工作站不再与显卡......
    AMD已经在12月初启动了下一代GPU的生产。 AIC、AIB显卡品牌厂商也都已被要求,大规模加速生产下一代显卡,这是相当罕见的,尤其是新卡上市 通常......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>