AI热潮可能导致新一轮GPU短缺 但NVIDIA称目前的问题只存在于封装环节

发布时间:2023-08-07  

加密货币热潮导致 PC 显卡价格在整个 2020 年和 2021 年疯狂飙升,而价格至今仍未回归到许多用户希望的水平。目前的人工智能热潮可能会产生类似的影响,因为一些公司报告称出现了短缺,但英伟达表示,供应链比许多人想象的要复杂得多。

人工智能公司最近的声明表明,人工智能热潮正在增加对 GPU 的需求,以至于一些公司报告出现了短缺。NVIDIA 声称其供应链并没有完全无法满足需求,只是遇到了一些小问题,这在一定程度上缓解了人们的担忧。

微软、OpenAI 和其他公司都提到了他们不得不采取的措施,以缓解 NVIDIA H100 和 A100 企业 GPU 的短缺,这些 GPU 用于人工智能工作负载。微软正在限制对外服务的次数,Quora 的首席执行官则表示硬件短缺掩盖了人工智能应用的真正潜力。埃隆-马斯克(Elon Musk)开玩笑说,企业级 GPU 目前比毒品还难买。

英伟达解释说,通常情况下,GPU的制造问题并不涉及主处理单元,而是附加板上的其他组件。在目前的情况下,问题出在封装上,该公司目前采用台积电的 3D 堆叠基板上芯片(CoWoS)技术来解决这个问题。NVIDIA 承诺,2023 年下半年的供应量将大大增加。

图片.png

目前还不清楚这种情况会在多大程度上波及消费级 GPU 市场,但人工智能的蓬勃发展已经导致 NVIDIA 将部分生产资源从 GeForce RTX 4090 显卡转向 H100。虽然人工智能公司的评论暗示,将注意力转向 AMD 硬件需要时间,但多产黑客乔治-霍兹(George Hotz)的一篇帖子显示,他的公司 comma 正在为此购买 Radeon 7900 XTX 显卡。

NVIDIA目前在人工智能领域占据主导地位,但分析表明,AMD未来肯定能在该领域取得重大进展。该公司在人工智能领域的主要优势在于其在集成了人工智能模块的 Windows PC CPU 方面的领先地位。

今年早些时候,以前使用 GPU 挖矿的集团开始尝试将其基础设施转向人工智能工作负载,以便在加密货币寒冬之后收回投资。虽然这种转变可能会让一些人收获颇丰,但由于微软、亚马逊网络服务和 OpenAI 等大公司的竞争,这种转变可能会比挖矿更具挑战性。


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    说背景中的物体该模糊的一律模糊、人手/头发等不该模糊的不再模糊。有了高效的硬件、合适的场景,还需要同样高效的软件,才能释放全部实力、实现最佳效果,这对于拥有上万名软件研发人员的Intel来说,真不......
    错过这个风口,或许就会失去竞争力。 对于大型数据中心来说,每颗芯片都在牟足力气,全功率地运行着,如果能拥有更多AI性能,那么,还需要额外购置一批GPU吗? 事实上,我们都陷入了一种思维定势,其实跑AI......
    可能会以更快的速度跨入Gen5产品的支持。Gen6则还需要一段时间,要求也会很高。”前不久,英韧科技(上海)有限公司联合创始人、SoC设计副总裁赖的是先生在接受采访时也提到。 图片来源:PCI-SIG PCIe 4.0......
    公司也会选择购买,毕竟错过这个风口,或许就会失去竞争力。 对于大型数据中心来说,每颗芯片都在牟足力气,全功率地运行着,如果能拥有更多AI性能,那么,还需要额外购置一批GPU吗? 事实上,我们......
    标准的升级速度也慢。2018年1月,JEDEC发布UFS3.0标准,2022年8月才有UFS4.0标准。所以UFS的速率是永远追不上PCIe的,差距会越来越大。除了速率带宽UFS太慢外,UFS还需要......
    还需要考虑体积和功耗,因此UFS通常都是单芯片,功耗尽量低。汽车领域体积和功耗都可以放宽些,PCIe SSD通常是多芯片并行,可以满足许多汽车领域的特别需求,UFS就无能为力了。 来源:NVM......
    编码是采用了三角函数算法,这个算法是标量计算,CPU做起来效率最高。 第二步是多头注意力计算。 对于一个视频输入序列X,它需要和权重参数模型做矩阵乘法,即和k、v、q的权重矩阵做乘法。然后,计算每个Query(X......
    做出回应。 图:高云半导体X平台截图。中文来源为谷歌翻译。 FPGA的重要性和CPUGPU一样,需要被上升到国家与信息安全的高度。 目前中国FPGA企业成长迅速,包括紫光同创、复旦微电、成都......
    样一个体系中我们可以看到的是英伟达数据中心业务为何成长如此迅速。以此图为案例的体系需要6个高性能服务器CPU的同时,就需要配备8个A100,同时还需要6个NVSwitch提升效率。这就意味着单一服务器内NV的产品价值要远高于处理器。当然别忘了一点,整个......
    最终会成功,因为社区已经拥有了创新所需的所有工具。” 那么,我们需要多长时间才能看到RISC-V GPUS和AI处理器呢?Himelstein说:“如果你想在一个非GPU的世......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>