AI百模大战正火热,很多公司刚在大模型领域赚到钱,英伟达则靠它在股市狂飙,首次突破1.2万亿市值,成为全球市值排行第六的公司[1]。
很多人都戏称,英伟达是大模型第一批吃到螃蟹的公司,但它的印钞机也并非无懈可击,CoWoS和HBM产能不足便成了它的难解之恨。
英伟达,还能笑多久?未来,英伟达所影响的产业链,还有哪些值得关注?
看台积电脸色的日子
虽然全世界都在为AI摇旗呐喊,英伟达一张张GPU成了行走的钞票,但它也被CoWoS后端封装产能和HBM供给所困。
H100和A100芯片多采用台积电CoWoS(Chip on Wafer on Substrate)先进封装,CoWoS号称是台积电的另一把“刺刀”,诞生在2012年的它绝非新技术,早期CoWoS只用在单价较高的芯片之中,时至今日,10年5代的它已成为高端GPU绕不开的技术。
用句通俗的话解释,其实CoWoS就是2.5D封装。现如今AI系统就是算力巨兽,而制造一款高算力的AI芯片,单从制程和架构入手早已不能满足巨量需求,所以台积电、三星、英特尔代工三头龙都瞄准了“先进封装”,进一步压榨芯片性能。而在此前,券商也大喊,“算力、存力、封力”是AI的三大力,英伟达能造出多少,全看台积电脸色。
不止如此,CoWoS还是实现HBM和Chiplet的关键。官方剖面图显示,英伟达两边各有三个HBM堆栈,HBM本就难以扩产,全看三星、SK海力士的能力,更不要说还要再看CoWoS产能,可谓是“套娃”。
当然,冰冻三尺非一日之寒,事实上,早在今年5月,英伟达就向台积电下紧急订单,彼时数据便显示,新增CoWoS产能全年约比原本预估量再多出1万片水准。
虽说理想很美好,但先进封装产能不是说加就加,需要提前计划排产。此前,台积电CoWoS产能仅为8000~9000片/月,若想顺利交付急单意味着1000~2000片/月的产能都要拱手让给反英伟达,使得台积电CoWoS产能收紧。[2]而CoWoS制程复杂,中介层的高精设备供不应求,进一步加剧产能焦虑。
为解产能之忧,台积电于8月9日宣布规划斥资近900亿元新台币,在中国台湾竹科铜锣科学园区设先进封装晶圆厂。经过两个月跨部门协商,竹科管理局正式同意台积电取得竹科铜锣园区约7公顷土地。新工厂预计2026年底建成,2027年Q3量产。
8月30日,摩根士丹利报告指出,台积电将针对紧急订单,将CoWoS价格提高20%,预示着CoWoS瓶颈有望缓解。[3]
事情就这样结束了?事实上,英伟达并没有坐以待毙,而是不断寻求自己的解药。
AI需求在这里,芯片难产也无用,而这种情况至少要等到2024年中才会逐渐缓和,作为商人,老黄一面催着台积电发货,另一面做其它准备也无可厚非:
一是做两手准备,找其他供应商。
8月24日,英伟达首席财务官克雷斯(Colette Kress)在线上投资者会议中表示,英伟达在CoWoS封装等关键制程已开发并认证其他供应商产能,未来数季供应可持续爬升,辉达持续与供应商合作增加产能。[4]
8月25日,市场称英伟达非台积电CoWoS供应链主要包括联电、安靠以及日月光旗下的矽品精密,而其中CoW部分的硅中介层的主要供应商联电中介层月产能将由目前的3kwpm(千片/月)扩增至10kwp。8月29日,受惠于英伟达外包先进封装中间层订单,联电后续出货全面看增。[5]
8月30日,日月光正在为其高雄工厂向英伟达申请CoW段封装认证。[6]
二是绕开CoWoS和HBM,即L40S GPU。
L40S是L40的升级版本,也可以说是特供版,基于Ada Lovelace架构,但它与A100和H100不同,没有服务器基板Baseboard,同时电源散热PCB与传统服务器都是一样的,不仅打破了AI服务器和非AI服务器界限,也不需要使用CoWoS和HBM。[7]
问芯Voice也锐评,“老黄刀法越来越快、狠、精准。”
寒风凛冽,半导体界叫苦不迭。都知道AI带动下,英伟达本财季一定亮眼,但谁也没想到能好到这个程度。 截至2023年7月30日的2024财年第二财季财报显示,英伟达营收135.07亿美元,同比增长101%;净利润61.88亿美元,同比增长843%。预计下一财季营收将达160亿美元,上下浮动2%。 这还不算完,英伟达的股价表现力极为持久,可谓是经久不衰。财联社报道显示,本周二,英伟达盘中股价一度上涨5%,收盘涨4.2%报487.84美元;上周二盘中首次突破500美元;今年以来,英伟达股价累计上涨234%,是标普500指数中表现最好的股票。[8] 英伟达的风光,也带动了全产业链,谁不想从中分一杯羹,三星就是最积极的那一个。 8月22日,《韩国经济日报》称三星的第四代HBM产品“HBM3”及先进封装服务最近已通过了AMD的品质测试,此前AMD原本考虑台积电CoWoS先机封装技术,但由于产能大部分被英伟达占据,AMD只得改变计划。[9] 本周二,韩国工业部又表示,已与三星、SK海力士等芯片公司签署了一份谅解备忘录,以合作开发先进半导体封装技术,除三星、SK海力士以外,LG化学、多家外包半导体封测公司及Fabless公司也参与签署谅解备忘录。[10] 当然,不止如此,三星也挟HBM和先进封装两大法宝向英伟达示好,试图分食台积电的市场。 芯片是全球的生意,一款芯片背后是一整个产业链条,但当一家公司或一个环节掌握着芯片的生死权,就会是致命的大事。 英伟达一直在寻求更多的解法,包括与Meta伟达相继到访SK海力士,讨论DRAM/HBM供应。 英伟达的股价已上涨多时,木头姐也在3天内抛售百万美元英伟达股,逢高而卖是否暗流涌动我们并不知晓,但不得不说ChatGPT效应正在逐渐放缓,AI的红利正在逐步缩小,同时许多AI芯片也未化为实际的业务,英伟达的前途并非无风险,而这一轮涨势能够做多远依旧还是个谜。
参考文献:
[1] https://companiesmarketcap.com/
[2] 电子时报:Nvidia places additional orders requiring TSMC CoWoS.2023.11.11.https://www.digitimes.com/news/a20230510PD217/ai-cowos-nvidia-packaging-tsmc.html
[3] 财联社.2023.8.30.https://www.cls.cn/detail/1449146
[4] 电子时报:Nvidia qualifing more manufacturing partners to secure explosive growth momentum.2023.8.24.https://www.digitimes.com/news/a20230824VL200/nvidia-chips+components-manufacturing-software-big-data.html
[5] 财联社:https://www.cls.cn/detail/1447261
[6] 财联社:https://www.cls.cn/detail/1449377
[7] 问芯Voice:英伟达的AI帝国如何破解台积电CoWoS封装产能不足的裂痕?.2023.8.23.https://mp.weixin.qq.com/s/p9NEnBd_Uj1HiSpLZlge1w
[8] 财联社:英伟达市值突破1.2万亿美元:“AI狂飙”还在继续上演!.2023.8.30.https://www.cls.cn/detail/1449249
[9] 韩国经济日报:
Samsung set to supply HBM3, packaging services to AMD
.2023.8.22.https://www.kedglobal.com/korean-chipmakers/newsView/ked202308220027
[10] The Korea Times:Industry ministry signs MOU with Samsung, SK hynix on semiconductor packaging.2023.8.29.https://www.koreatimes.co.kr/www/tech/2023/08/129_358047.html