全方位剖析:第五代至强为何成为AI时代新宠儿?

发布时间:2024-03-21  

自2023年底第五代英特尔®至强®可扩展处理器发布以来,这款专为AI加速而生的CPU就一直在业内保持着很高的热度,其强大的算力、出色的性能、成熟的生态、广泛的合作伙伴等,都让人们对它的期待值日益高涨。

第五代至强可扩展处理器发布至今,它到底有哪些新特性值得关注?具体应用实践情况又是如何?

为了让大家有个全面的了解,在近日举办的2024英特尔数据中心产品技术媒体分享会上,多位英特尔技术专家从技术特性、产品价值、实践应用等角度对其进行了详细介绍。

提升软硬件,打造至强“芯”

最近一年多来,人类在算法、计算等方面取得的突破,让生成式AI实现了令人惊叹的进展。

数据显示,全球约有58%的企业都会运用到生成式AI;预计到2026年,生成式AI市场规模有望增长至3000亿美元,这其中包括硬件、软件、解决方案等;到2028年,大约80%以上的PC产品将会转换成AI PC;届时,人们将通过AI PC提高工作效率,释放更多的生产力和创造力。

在这场AI的革命浪潮中,英特尔作为计算领域的引领者,自然要走在行业的最前沿。而第五代至强的问世,就是迈向成功的第一步。

全方位剖析:第五代至强为何成为AI时代新宠儿?

据英特尔市场营销集团副总裁、中国区数据中心销售总经理兼中国区运营商销售总经理庄秉翰介绍,去年年底发布的第五代至强,主要面向生成式AI设计的,是英特尔迄今为止可持续性最强的数据中心处理器,并且与上一代英特尔®至强®可扩展处理器相比,都有着较大幅度的升级。

具体来说,在硬件方面,其核数和不同的性能指标都达到了行业领先水平。“第五代至强最多拥有64个核;同时,我们也通过和AI相关的新的指令集,如AMX、AVX等来提高主频和性能。这些性能的提升,对一些生成式AI的应用也有很大帮助。当然还有其他和AI相关的,比如提高内存的带宽等。”庄秉翰介绍说。

据悉,第五代至强在业界数据中心级的处理器当中,拥有较高内存带宽,能够达到5600MT/s。英特尔通过加大三级缓存,即把三级缓存的容量提升了三倍,使得数据处理无需内存,直接在芯片内部就可以进行处理。

全方位剖析:第五代至强为何成为AI时代新宠儿?

针对这款处理器,除了硬件提升之外,英特尔在软件生态方面也做出了很大调整。

“随着第五代至强的发布,我们上传了300个以上的深度学习模型到社区,也支持50个以上的基于机器学习的、且基于第五代至强优化过的模型,这些开发者都可以调用。”庄秉翰谈到,不仅如此,我们还更新了AI开发软件,可以在第五代至强上的应用做到较大优化;同时加大了对主流大模型、生成式AI模型的框架投入,如PyTorch和TensorFlow等,让使用PyTorch和TensorFlow开发的资产,均可以无缝拓展至英特尔至强可扩展处理器上。

总之,基于硬件和软件的优化,第五代至强与第四代至强相比,在AI训练、实时推理、批量推理上,基于不同的算法,都可以看到不同性能的提升,最高可提升40%。

增强架构设计,助力CPU迭代升级

为了改善工作负载的性能,第五代至强在架构设计方面也进行了增强,这主要表现为五个方面:

全方位剖析:第五代至强为何成为AI时代新宠儿?

一是,制程技术的改进。据英特尔资深技术专家介绍,制程是半导体领域离不开的话题,第四代和第五代至强都是基于Intel 7的制程,采用的是Dual-poly-pitch SuperFin晶体管技术。为了展现第五代至强的卓越性能,我们在关键技术指标做了改进,特别是在系统的漏电流控制和动态电容方面,这两项指标都对整个晶体管的性能表现有着较大的影响。通过这些调整,第五代至强在同等功耗下的频率可以提升3%(其中2.5%是由漏电流控制贡献的,动态电容下降贡献了0.5%)。

二是,芯片布局的改变。现阶段,人们对服务器的算力要求越来越高,因此需要在里面放更多的核心,以及更多的内存带宽。但这就意味着会有更多的IO,会使芯片面积不断增加。为了解决这一问题,第五代至强对芯片切分方式做了调整,把原来芯片分为四个部分的做法变成切为两份,这样就可以更好的对芯片的质量和面积进行控制。

三是,性能能效的提升。为了说明第五代至强在性能能效方面的优势,英特尔官方给出了两组数据:一个是常规的整数计算,相较于上一代,第五代至强针对AI负载的性能大幅提升了42%;二是SoC芯片拓扑结构的改变,把原来的4芯片封装改为2芯片封装,使芯片之间的功耗减少,从而将更多功耗放在处理器的性能提升上。

全方位剖析:第五代至强为何成为AI时代新宠儿?

四是,三级缓存(LLC)的增加。正如前面提到的,把三级缓存的容量提升三倍,可以使数据处理无需内存,直接在芯片内部进行处理。“现在我们每个模块的LLC容量都从1.875MB增加到了5MB,这个提升是非常大的,所以第五代至强有着高达320MB的缓存。”该技术专家解释说。

五是,内存IO的扩展。第五代至强的DDR速度从4800MT/s提升到了5600MT/s,可以确保高度的信号完整性。要知道,实现这一过程并不容易,因为所有内存速度的增加,都是在现有的基板和PCB的基础上去实现的。所以,要想达到更高的速度,就需要从芯片设计到基板设计,以及链路上一系列整体的提升。为此,英特尔做了很多优化,包括一些MIM的内存、基板上走线的提升,以及片上的低噪声的供电措施等。

全方位剖析:第五代至强为何成为AI时代新宠儿?

发挥资源优势,持续贡献更多力量

除了核心技术、架构细节之外,第五代至强在解决方案和实践应用中的表现同样值得一提。

在英特尔看来,解决方案的目的其实很简单,就是将底层硬件的能力充分发挥出来,真正将硬件能力转化为用户价值。而为了实现这一目标,英特尔投入了大量资源,比如在工艺、微架构、系统、生态上的投入,以及在数据安全和模型安全等方面的投入,这些英特尔都有端到端的解决方案。

据介绍,在云计算时代,英特尔在虚拟化技术上投入了“重兵”,在提升虚拟化效率的同时,也减少了对底层硬件的损耗。而到了AI时代亦是如此,其AI推理能力比上一代大幅提升了42%,同时核数也增加了,内存带宽也更多了,三级缓存容量也增大了,英特尔同样也在努力发挥着这些硬件能力。

“过去的10年,英特尔致力于构建一个完备的生态,通过软、硬件结合帮助生态合作伙伴们充分挖掘和利用底层CPU能力。可以说,我们挖掘CPU的能力并非是单一的。”英特尔技术专家表示,CPU就像是一位大侠,十八般武艺样样精通,一个人可以应对很多人,单打独斗能力很强;而GPU更像是一支军队,人数众多,执行的任务简单且并发高。所以,CPU和GPU适用的场景是不同的。面向时代,英特尔正在逐步优化CPU的架构,让性能得到不断的提升。

全方位剖析:第五代至强为何成为AI时代新宠儿?

会上,英特尔官方还分享了几个关于第五代至强的应用案例,在展示该处理器强大的同时,也进一步体现了英特尔拥有开放生态的共赢格局。

在技术革新的道路上,英特尔永不止步。据官方透露,继第五代至强之后,2024年还会发布全新一代的至强可扩展处理器,并且将迎来丰富的产品组合,可以同时满足性能的要求和社会对能耗的要求。

除此之外,英特尔还将计划推出下一代的P-core(性能核)和E-core(能效核)处理器。其中,P-core看重的是整体性能的提升,而E-core则看重的是每瓦带来的性能提升。未来,底层能源的利用率便是企业最大的优势,谁的能源利用率高、转化率高,谁就更有竞争力。

全方位剖析:第五代至强为何成为AI时代新宠儿?

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    美光科技宣布DDR5服务器内存已获验证;近日,美光科技宣布,其用于数据中心的DDR5服务器内存产品组合已在第四代英特尔至强可扩展处理器上得到全面验证。 据介绍,美光DDR5提供的内存带宽是前几代......
    美光科技宣布DDR5服务器内存已获验证;近日,宣布,其用于数据中心的产品组合已在第四代英特尔至强可扩展处理器上得到全面验证。本文引用地址:据介绍,美光提供的内存带宽是前几代产品的两倍,这对......
    已经在合肥有了一座DRAM内存工厂,正在筹钱建设第二座,会导入更先进的工艺,有可能会同时用来制造HBM。暂时还不清楚长鑫要生产的HBM是第几代,可能是HBM3,而国际上已经有了更先进的HBM3E,SK海力士还计划在2026......
    的低调出现,在上代基础上压榨出了最后一点潜力。王小二过年一般的APU,都简直让人忘记了这是第几代了APU。哦,原来是第七代。 不过这一代APU的发布,AMD带来了一个信号。那就是新的APU会采......
    器收入连续小幅增长。英特尔持续看到第四代英特尔®至强®可扩展处理器的强劲势头及大量出货,目前,基于该处理器的全球排名前十的云服务商(CSP)产品已全面上市,并为众多跨国公司提供强劲性能。本季度,英特尔出货了第100......
    美光:DDR5 内存产品已在第四代英特尔至强可扩展处理器中完成验证;IT之家 1 月 17 日消息,昨日宣布,公司旗下面向数据中心的  服务器内存产品组合已在第四代英特尔至强......
    激活模式,客户可以在第四代英特尔®至强®可扩展处理器原始SKU的基本配置之外,开启额外的加速器组合,在业务有需求时获得更大的灵活性和更多的选择。此外,面向未来几代至强处理器,英特......
    宝资金转出将继续免费,包括转出到本人银行卡、转出到支付宝余额,不过10月12日起,从支付宝余额新转入余额宝的资金,转出时只能转到余额,不能直接转出到银行卡。 支付宝和微信支付一直都在向商业银行争取免费权益,以使得普通用户将自己的银行账户余额充值到第......
    股份有限公司,纳斯达克股票代码:MU)近日宣布,公司旗下面向的 DDR5 服务器内存产品组合已在第四代英特尔® 至强® 可扩展处理器系列产品中完成验证。美光 DDR5 所提供的内存带宽相比前几代......
    旗下面向数据中心的服务器内存产品组合已在第四代英特尔®至强®可扩展处理器系列产品中完成验证。  所提供的内存带宽相比前几代产品实现了翻番,为当今数据中心快速增长的处理器内核提供更强赋能。升级到  将带来更高的带宽,有助......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>