Jul. 17, 2024 ---- 根据TrendForce集邦咨询最新发布「服务器产业分析报告」指出，2024年大型CSPs(云端服务业者)及品牌客户等对于高阶AI服务器的高度需求未歇，加上CoWoS原厂台积电及HBM(高带宽内存)原厂如SK hynix(SK海力士)、Samsung(三星)及Micron(美光科技)逐步扩产下，于今年第2季后短缺状况大幅缓解，连带使得NVIDIA(英伟达)主力方案H100的交货前置时间(Lead Time)从先前动辄40-50周下降至不及16周，因此TrendForce集邦咨询预估AI服务器第2季出货量将季增近20%，全年出货量上修至167万台，年增率达41.5%。

TrendForce集邦咨询表示，今年大型CSPs(云端服务供应商)预算持续聚焦于采购AI服务器，进而排挤一般型服务器成长力道，相较于AI服务器的高成长率，一般型服务器出货量年增率仅有1.9%。而AI服务器占整体服务器出货的比重预估将达12.2%，较2023年提升约3.4个百分点。若估算产值，AI服务器的营收成长贡献程度较一般型服务器明显，预估2024年AI服务器产值将达1,870亿美元，成长率达69%，产值占整体服务器高达65%。

从AI服务器搭配AI芯片类型来看，来自北美CSPs业者(如AWS、Meta等)持续扩大自研ASIC(专用集成电路)，以及中国本土业者如：阿里巴巴、百度、华为等积极扩大自主ASIC 方案，促ASIC服务器占整体AI服务器的比重在2024年将提升至26%，而主流搭载GPU的AI服务器占比则约71%。

就AI服务器搭载的AI芯片供应商分布来看，单看AI服务器搭载GPU，英伟达市占率最高、逼近9成，AMD(超威)市占率则仅约8%。但若加计所有AI服务器用AI芯片包含GPU、ASIC、FPGA(可编程逻辑阵列)，英伟达今年市占率则约64%。

据TrendForce集邦咨询的调查，展望2025年市场对于高阶AI服务器需求仍强，尤其以英伟达新一代Blackwell(包含GB200、B100/B200等)将取代Hopper平台成为市场主流，此亦将带动CoWoS及HBM等需求。以英伟达的B100而言，其芯片尺寸将较H100翻倍，会消耗更多的CoWoS用量，预估2025年主要供应商台积电的CoWoS生产量规模至年底总产能可达550k-600k，成长率逼近8成。另以HBM用量来看，2024年主流H100搭载80GB HBM3，到2025年英伟达Blackwell Ultra或AMD MI350等主力芯片，将搭载达288GB的HBM3e，单位用量成长逾3倍，随服务器市场需求持续强劲下，有望带动2025年HBM整体供给量翻倍成长。