AI时代的数据中心成吃电巨兽,氮化镓会是能效救星吗?

发布时间:2023-10-17  

数位经济正经历一场由两大趋势驱动的巨大变革,即时数据分析的庞大需求为其一,另一则是生成式人工智能(Generative )的快速发展。一场激烈的生成式竞赛正如火如荼的进行中,科技巨头如亚马逊(Amazon)、谷歌(Google)、微软(Microsoft)皆大举投资生成式的研发创新。根据彭博智库(Bloomberg Intelligence)预测,生成式AI市场将以42%的年增率成长,从2022年400亿美元市值,于10年内扩大至1.3兆美元。

本文引用地址:

在AI的蓬勃发展下,对电力与运算的需求呈正比成长,激增的用电量不仅对营运效率造成压力,更成为达成净零排放目标的阻碍。当前所采用的电力转换及分配技术,已难以满足来自云计算及机器学习的运算需求,面对更庞大能源的生成式AI应用,数据中心运营商正急迫地寻找创新电力解决方案。

(GaN)功率半导体应运而生,成为数据中心优化能源效率的关键技术之一。接下来的文章将进一步探讨生成式AI对数据中心带来的挑战、功率器件的优势,最后分析业界普遍使用的“电源使用效率(Power Usage Effectiveness, PUE)”指标中所存在的漏洞,这些洞察皆将指向一个结论,功率元件在数据中心电力系统中的应用将加速落地。

生成式AI对数据中心的冲击将加剧

面对数据量爆炸,依传统工作负载量所规划的数据中心基础架构正面临巨大压力。全球数据量每两年便翻涨一倍,处理、储存这些庞大数据的服务器,需要大量的能源及水资源来维持运作。根据麦肯锡的预测,在未来五年内,光是位于美国地区的数据中心便将新增39GW的用电量,相当于3200万的家庭一年的用电量。

生成式AI带来破坏式创新与商机,但随之而来的能源需求也是前所未有。一篇研究文章指出,训练最新一代的生成式AI模型,较上一代模型高出十至百倍。生成式AI应用主要的能耗来自于两方面,一是训练构成生成式AI系统核心的大型语言模型(LLMs)时需要的能源,另外便是大型语言模型运作时的能耗。

生成式AI的用电量高的难以置信,假设每次Google搜索需耗费相当于一个100瓦灯泡发光11秒钟的电量,如今当红的生成式AI应用工具ChatGPT 每回答一个问题的用电量,竟比Google搜索高出50-100倍。面对突增的电力需求,升级数据中心架构迫在眉睫,数据中心业者更直言接下来4年数据中心在升级设备的花费预估将高达1兆美元。

虽然如浸没式冷却、人工智能优化方案、废热再利用等新兴技术已经出现,但这些方案皆无法从根本解决问题。由于基于硅开发的功率元件效率低落,现今的数据中心高度依赖冷却系统来维持安全的运作温度,因此兼具能效、尺寸优势及输出功率的电力解决方案正是当前数据中心急迫所需。

氮化镓具无可匹敌的效率与性能

相较传统电源供应器,基于氮化镓功率元件设计的电源供应器,能实现超群的性能与效率,在生成式AI应用不断升级下,成为数据中心理想选择。凭借更快的开关速度及卓越的输入和输出品质因数(Figures of Merit),氮化镓实现电源设计上的优势,带来超越钛金级的能效表现,并大幅提高功率密度。

氮化镓电晶体为电源设备带来更高的效率水准,效率提高代表能源损耗减少,设备也能减少过热情形。举例来说,在典型数据中心架构中,基于氮化镓设计的电源供应器每年可为每10个机架增加300万美元的营收,减少100公吨的二氧化碳排放量,省下13000美元的运营支出。当生成式AI对电力需求持续攀升、且每机架的功率密度提升至2-3倍时,这些氮化镓所带来的优势将更显著。

你也许会好奇,氮化镓的所带来的好处如此显而易见,但为什么数据中心业者没有立即转用这项技术?广受数据中心使用的PUE指标中有一项经常被忽视的盲点,也就是我们所称“能耗指标漏洞( PUE Loophole )”,这便是氮化镓技术普及受限的主因。

什么是能耗指标漏洞

PUE代表IT设备负载耗电量占总耗电的比例,普遍作为评估数据中心能源效率的指标。密切监控并持续改善PUE对数据中心运营优化十分重要,降低PUE代表减少用电量,进而减少运营成本及环境冲击。

然而,PUE仅计算了电力传输至服务器的效率,却忽略了服务器中电力转换间的能源损耗,这便是能耗指标漏洞,数据中心以PUE作为评估整体运营成效时会产生的盲点。

这个盲点造成当前许多服务器仍采用效率仅有90%甚至更低的AC-DC转换器,这代表了每次AC-DC能源转换间,有10%的能源在转换中被浪费了,这不但增加了电费成本及碳排放量,被浪费的能源同时以热的方式排出,进而提升数据中心对额外冷却系统的需求,冷却系统也是另一个非常耗电的设备。

氮化镓功率半导体将为这个挑战带来转机,为数据中心提供一个立即见效且高性价比的方式来解决能耗指标的漏洞,并省下庞大的电力需求。采用氮化镓功率元件的AC-DC转换器,效率可达到96% ,甚至更高,所减少的功率耗损达50%,以数据中心平均用电量换算,相当于节省了370亿千瓦小时的电量,足以供应40座超大规模数据中心一年的电力需求。

文章来源于:电子产品世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>