预估2024年北美四大云端服务业者对高端AI服务器需求量将逾六成

发布时间:2024-02-27  

【导读】以2024年全球主要云端服务业者(CSP)对高端AI 服务器(包含搭载NVIDIA、AMD或其他高端ASIC芯片等)需求量观察,预估美系四大CSP业者包括Microsoft、Google、AWS、Meta各家占全球需求比重分别达20.2%、16.6%、16%及10.8%,合计将超过6成,居于全球领先位置。其中,又以搭载NVIDIA GPU的AI 服务器机种占大宗。


以2024年全球主要云端服务业者(CSP)对高端AI 服务器(包含搭载NVIDIA、AMD或其他高端ASIC芯片等)需求量观察,预估美系四大CSP业者包括Microsoft、Google、AWS、Meta各家占全球需求比重分别达20.2%、16.6%、16%及10.8%,合计将超过6成,居于全球领先位置。其中,又以搭载NVIDIA GPU的AI 服务器机种占大宗。


预估2024年北美四大云端服务业者对高端AI服务器需求量将逾六成


受国际形势变化影响,NVIDIA后续发展仍有挑战


NVIDIA近期整体营收来源以数据中心业务为关键,主因其GPU服务器占整体AI市场比重高达6~7成,只是后续仍须留意三大状况,可能使NVIDIA发展受限。其一,受国际形势变化影响,中国将更致力于AI芯片自主化。而NVIDIA推出的H20等中国特规方案,性价比可能不及既有的H100或H800等,中国客户采用度可能较先前保守,进一步影响NVIDIA市占率。


其二,在具规模及成本考量下,美系大型CSP业者除Google、AWS外,Microsoft、Meta等亦有逐年扩大采自研ASIC趋势。其三,来自AMD的同业竞争,AMD采高性价比策略,对标NVIDIA同级品,AMD提供仅60~70%价格,甚至代表性或具规模客户能以更低价策略方式抢进市场,预期2024年尤以Microsoft为最积极采纳AMD高端GPU MI300方案业者。


NVIDIA为维持领先,将更致力拓展多元组合产品线


NVIDIA在面临潜在隐忧下,亦更积极加速拓展其多元产品线,以应对不同客户群。2024年起将正式替换A100产品,而以价格更高的H100系列为主轴。除H100,预估自今年第二季末开始小量出货搭载更高HBM3e规格的H200产品。另预估NVIDIA未来在价格上将更积极采差别订价,H100采部分折价策略,H200应维持约H100原价格水位,以提供更高性价比方式,稳固云端CSP客户。除此之外,NVIDIA将采用NRE(一次性工程费用;Non-recurring engineering Expense)模式,与Meta、Google、AWS及OpenAI等厂商展开洽谈,并将目标扩及电信、车用及电竞客户。


此外,预期NVIDIA自2024年下半年将推出新一代B100产品,相较H系列可望在效能上又有所提升,在HBM存储器容量将高出H200约35~40%,以应对更高效能HPC或加速LLM AI训练需求。而在中低端产品上,除L40S针对企业客户做边缘端较小型AI模型训练或AI推理外,另亦规划以L4取代既有T4,作为云端或边缘AI推理应用。


值得注意的是,为避免2023年GPU供应不足问题,NVIDIA亦积极参与CoWoS及HBM等扩建产能需求,预期今年第二季在相关原厂产能逐步开出后,原交付Lead Time平均约40周也将减半,逐步去除下游供应链因GPU短缺而使AI服务器供应进度受阻问题。


免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:

文章来源于:电子元件技术    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    别准确率高。 随着科技不断进步,人工智能技术也不断落地,诸如生物识别、自动驾驶等等,这些应用都为人们带来了便捷。不过,当人们试图将人工智能想得更长久时,不少人开始害怕,人工智能将取代人类的工作,甚至一定程度上,毁灭......
    别准确率高。 随着科技不断进步,人工智能技术也不断落地,诸如生物识别、自动驾驶等等,这些应用都为人们带来了便捷。不过,当人们试图将人工智能想得更长久时,不少人开始害怕,人工智能将取代人类的工作,甚至一定程度上,毁灭......
    件一体化、前端后台模块化的新一代智慧景区导览整体解决方案,持续为游客提供更高效的服务,帮助景区产生更大价值,助力景区实现可持续、智能化发展。 未来,在人工智能带来的服务升级下,秉承“真有用”的理念,借助......
    些岗位仅占科技行业臃肿的总数的 3%。许多人开始意识到Hawk-Eye、ChatGPT、GitHub Copilot 和其他 AI 组合威胁着人类就业。 之前就有业内调查机构预测人工智能将取代......
    需要更加重视数据安全与隐私保护技术的研发和应用,以确保用户数据的安全和隐私不受侵犯。 8. 跨界融合与创新:未来人工智能将与其他领域进行跨界融合和创新,产生更多的新应用和新模式,例如智能家居、智能出行、智能......
    筛查能力。 供应链掘金机会到来 根据《总体方案》规划,未来海南自贸港将构建现代产业体系,大力发展旅游业、现代服务业和高新技术产业,不断夯实实体经济基础,增强产业竞争力。 其中,在现代服务业方面,将创......
    间的信息共享和融合已经无法适应线网规模增加和新的业务模式的要求,即便是线网快速发展后急需的线路间的互联互通也因为系统的分设而难以实现。 据悉,该场景依托母公司佳都科技在广州地铁21号线、18号线的基础,支持通过广泛运用大数据、云计算、人工智能......
    ,自2023年以来,生成式人工智能(GenAI)已从一项新兴技术发展成为消费者行为的核心驱动力,改变了决策过程并塑造了品牌期望。随着GenAI融入日常生活,它改变了消费者通过智能手机、PC和IoT设备......
    脑生成语音听来更丰富多变。不此如此,他们还用该技术制造出类似钢琴的琴声。不过内情人士指出,WaveNet需要极大的运算能力,可预见的未来或许还无法使用在真实世界,目前也未用于谷歌产品。 人工智能(AI)再次......
    脑生成语音听来更丰富多变。不此如此,他们还用该技术制造出类似钢琴的琴声。不过内情人士指出,WaveNet需要极大的运算能力,可预见的未来或许还无法使用在真实世界,目前也未用于谷歌产品。 人工智能(AI)再次......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>