运营商集采新风口:AI服务器需求高涨,新要求带来新机遇

发布时间:2023-10-07  

【导读】继多家行业头部企业宣布算力领域最新布局后,中国电信近日也公布了最新进展,其AI算力服务器(2023-2024年)集中采购项目已批准,公司首次将AI算力服务器作为独立品类进行集采。


7.jpg


目前在算力领域,多家企业正围绕AI大模型热潮带来的智算市场加快布局,将智算视为今年的重点业务板块,产业链中的高性能服务器、交换机、CPO、存储芯片等多细分领域将受益;同时,国产化算力替代亦存在机会,不过国产芯片短期尚存短板。


中国电信首次独立集采AI算力服务器


据中国电信官网消息,公司AI算力服务器(2023-2024年)集采项目已批准,此次招标人为中国电信集团有限公司、中国电信股份有限公司。


记者获悉,本项目分4个标包,分别为训练型风冷服务器(I系列)、训练型液冷服务器(I系列)、训练型风冷服务器(G系列)、训练型液冷服务器(G系列)。预估采购规模为4175台,I系列配套InfiniBand交换机1182台。


值得关注的是,此次集采以训练型服务器为主,实际上近段时间在人工智能、大模型方面中国电信频频发声。2023中国算力大会上,中国电信董事长柯瑞文称,“当前算力基础设施正由通用算力为主向通算、智算、超算一体化演进,为以人工智能为代表的新一轮科技革命和产业变革注入强劲动力。”根据公司最新财报,中国电信持续优化“2+4+31+X+O”算力布局,上半年智算新增1.8EFLOPS,达4.7EFLOPS,增幅62%。7月初,中国电信还首发TeleChat大模型。


中国电信亦同步披露一项智算集采。根据公告,天翼云2023年GPU智算专区建设工程项目现已具备采购条件,拟采取单一来源方式采购。因涉及需要HPC相关性能优化的软件包授权,为华为不可替代的专有技术,本次确定单一来源供应商为华为。


AI高算力需求牵引服务器内高速通信技术迭代升级


AI大模型迭出带来数据处理量指数级增长,带动AI云端算力需求快速拉升。自2022年下半年以来AIGC(AI-Generated Content,人工智能生成内容)实现技术和产业端的快速发展。以OpenAI GPT系列的版本演进为例,从GPT-1(2018.06)到GPT-2(2019.02)、GPT-3(2020.05)、GPT-3.5(2022.11)、GPT-4(2023.03),参数量和语料库持续升级。目前AI超大模型的参数已经达到千亿、甚至万亿数量级,且在训练过程中,各类中间变量均需要存储,以上海量数据对训练场景下的算力和显存需求均提出了高要求。中国信通院预计,2030年全球算力总规模有望达到56ZFlps,2021-2030年CAGR约65%,其中智能算力贡献主要增长动能。


服务器内部各种高速连接需求大幅增长,需要承载量更大的传输通道作为支撑。我们观察到,GPT-3.5模型训练所使用的微软Azure AI云计算平台采用了分布式训练“多卡多机”的模式,涉及大量数据在GPU之间、GPU与CPU、GPU与内存等单元之间的传输,并增加了跨服务器的通信需求,服务器内部板上通信技术迎来大规模升级。此外,AI算力的提升方式,除了依靠单体GPU卡的算力迭代,还需要高速的芯片互联技术作为有力支撑,从而实现多颗GPU之间的高效聚合、提升GPU算力的可扩展性,进而形成强大的集群算力。我们认为,为提升异构并行处理超大数据量的效率,板上芯片间互联、片内Die间互联总线均需升级。


PCIe总线持续升级,NVLink引领服务器内部通信新变革。PCIe平均每三年升级一代标准,目前市场呈现多世代并存局面,我们认为在高性能服务器需求高增趋势下,CPU迭代有望加速PCIe 5.0大规模商用进程;同时,PCIe Retimer和Switch芯片在高速PCIe通路中发挥重要作用,市场空间可期。在AI异构计算场景中,算力的持续增强不仅依赖单张GPU卡的性能提升,还需要多卡高效聚合,NVLink成为实现多GPU间高速互联的关键通道,并引入基于NVLink高级通信能力构建的NVSwitch芯片以解决GPU间通讯不均衡问题,进而构成全带宽连接的多节点GPU集群。


先进封装技术不断进阶,ABF载板景气提升。众核异构方案推动先进封装技术向更高连接密度演进,全球先进封装需求呈增长态势,其中Fan-out、2.5D/3D封装市场增速领跑行业。从先进封装材料看,我们认为ABF载板作为CPU、GPU等高运算性能芯片的重要承载,有望受益于AI浪潮带来的高算力芯片需求激增;同时,Chiplet异构集成下裸片间连接需求增加,ABF载板面积增加、且载板消耗量因良率下降而增加,先进载板需求进一步向上。


PCB高速化带动板材升级,上游树脂材料有望向PPO切换。得益于服务器平台持续迭代、叠加以更高端PCB为算力载体的AI服务器需求高涨,我们认为由M6及以上覆铜板材料制成的超过16层的PCB有望在服务器市场中快速渗透,PCB板有望迎来量价齐升。聚焦覆铜板上游树脂材料,我们看好聚苯醚(PPO)凭借改性后优异的电化学性能(低介电损耗、高加工稳定性、耐热性等)逐步取代传统树脂,在下游高端服务器需求增长、覆铜板高频高速化发展的驱动下,改性PPO市场增长空间广阔。


国产AI服务器市场空间广阔


由于海量数据处理需求激增、AI模型算法渐趋复杂以及算力投资具备的强经济效益,AI算力产业的长期发展前景广阔,迎来投资机遇。


算力是AI产业发展的根基,迎来持续政策支持。数据的快速增长以及算法模型的复杂化需要更强算力的支撑,同时算力还具备极强的经济效益,据统计计算力指数平均每提高1点,国家的数字经济和GDP将分别增长3.5‰和1.8‰,因而成为政府政策支持的重点。目前,我国AI产业已经迎来了以《新一代人工智能发展规划》为顶层定调,各部委、各地方政府政策辅助落地的“1+N”的产业政策体系,进入2023年以来,北京市、深圳市、上海市等地都密集出台AI产业支持政策,行业迎来持续政策催化。


AI服务器市场空间广阔,中国厂商表现亮眼。根据IDC统计,2021年全球AI服务器市场规模为156.3亿美元,预计2026年将增长至347.1亿美元;2021年中国AI服务器市场规模为59.2亿美元,预计2026年将增长至123.4亿美元,长期成长空间广阔。2021年浪潮信息、新华三(紫光股份)、联想的AI基础设施营收增速领跑全球主要厂商,其中浪潮信息市场份额位居全球第一,未来中国AI服务器厂商有望充分受益于下游需求的持续释放,迎来长足发展。


英伟达引领全球AI芯片发展潮流,中国厂商奋起直追,有望超预期发展。在政策与需求的双轮驱动下,中国AI芯片厂商正在奋起直追,尤其是在ASIC路线上加大投入,目前已经涌现出寒武纪、华为昇腾、海光信息、燧原科技等优秀的AI芯片厂商,AI算力性能有显著提升,未来有望实现超预期发展。


来源:贤集网



免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理。


推荐阅读:


文章来源于:电子元件技术    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>