GPT-4对算力硬件的新需求:台积电为英伟达代工的GPU订单增加

发布时间:
来源: 电子产品世界

作为AI大模型基础设施,未来将持续受益于AI技术的迭代和商业化应用。GPT4.0从语言模型走向多模态模型,将带来更为丰富的应用场景。

本文引用地址:

同时,更大的模型对提出更高需求,多模态特性又增加了对其他编解码模块的需求。

截屏2023-03-23 14.35.20.png

多模态应当具备三个基本组成部分:第一部分是图像,视频为多帧的图像;第二部分为音频;第三部分为文字。

因此,随着多模态的发展,在层面,需要面向视频、音频再增加编解码能力的支持。从难度上讲,视频对于算力和IP复杂度的要求最高,其次为音频,是从算力扩展到周边支持性的编解码IP如VPU模块的机会。

据媒体报道,在晶圆领域走在行业前列的,来自的A100和H100 的订单在增加,为国内市场设计的A800系列GPU的订单也在增加。

值得注意的是,A100、H100及A800系列GPU,都是针对数据中心的产品,这三款GPU的代工订单增加,大概率与ChatGPT等近期大热的产品有关。

截屏2023-03-23 14.36.41.png

在上月中旬的报道中,外媒就曾提到由于对ChatGPT等进行训练和提供相关的服务,全球可能再次面临GPU短缺的挑战,出现短缺的时间可能还会早于预期。

为了创建和维持ChatGPT所需的人工智能分析数据的庞大数据库,开发商OpenAI使用了10000个的GPU进行相关的训练。而为了支持实际应用,满足服务器的需求,OpenAI已使用了约2.5万个英伟达的GPU,随着需求的增加未来预计还会增加。

来自英伟达的代工订单增加,可能还不是近期开始的。有外媒在上月底的报道中就提到,得益于交货时间短的AI芯片和服务器处理器订单的强劲推动,5nm及4nm制程工艺的产能利用率已在回升。虽然当时并未明确提到英伟达的订单,但AI芯片和服务器处理器订单,大概率也有英伟达的产品。

文章来源于: 电子产品世界 原文链接

本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。