技术咨询
代买器件
商务客服
研发客服英伟达新一代 AI GPU面临芯片过热问题
根据知情人士的爆料，Blackwell AI GPU装入可容纳多达72颗芯片的服务器机架时会出现过热的问题，这些机器预计每个机架的功耗高达120kW。而过热会限制GPU性能并有损坏组件的风险。
目前，包括英伟达员工、客户和供应商在内的多方面消息称，英伟达已多次要求供应商调整机架设计，但这种过热的问题依然存在。
外媒的报道称，一些英伟达客户担心没有足够的时间推进新数据中心的建设运行，包括元宇宙、谷歌和微软等在内的科技巨头均受到影响。
对此，有多家媒体致电英伟达。英伟达方面对媒体回应表示：“我们正在与领先的云服务提供商合作，将其作为我们工程团队和流程中不可或缺的一部分。工程迭代是正常且符合预期的。将GB200这一迄今为止最先进的系统集成到各种数据中心环境中，需要与我们的客户共同设计。”
据悉，Blackwell用作培训大语言AI模型，其速度比英伟达上一代芯片H100的速度快2.5倍。该芯片此前预计发货时间为今年第二季度。
英伟达Blackwell在今年3月推出
据悉，Blackwell是英伟达在2024年3月推出的新一代AI芯片与超级计算平台。Blackwell的强悍性能一直为大家津津乐道，它由多个英伟达芯片组成，包括Blackwell GPU、Grace CPU、BlueField数据处理单元、ConnectX网络接口卡、NVLink交换机、Spectrum以太网交换机和Quantum InfiniBand交换机，涵盖了从CPU和GPU计算到用于互连的不同类型的网络，可支持多达10万亿参数的模型进行AI训练和实时大语言模型(LLM)推理。
Blackwell的具体性能还包括以下：
- NVIDIA的Blackwell架构GPU搭载了2080亿个晶体管，采用专属定制的台积电4NP工艺精心打造。该设计突破传统，实现了裸片尺寸翻倍，并通过10 TB/s的高速片间互联技术，将多个GPU裸片整合为单一的高效能单元。
- 在Blackwell架构中，升级版的第二代Transformer引擎融合了创新的微张量缩放技术，并结合NVIDIA先进的动态范围管理算法，使得在4位浮点AI推理方面，算力和模型尺寸均实现了显著提升。
- 第五代NVLink技术进一步优化了处理万亿级参数模型和混合专家AI模型的能力，每块GPU的双向吞吐量高达1.8TB/s，确保了多达576块GPU之间的高效、无间断通信，完美应对当今最为复杂的LLM挑战。
- 此外，Blackwell架构的GPU内置了RAS引擎，专注于提升系统的可靠性、可用性和可维护性。Blackwell还增添了多项先进的芯片级功能，通过AI驱动的预防性维护策略，进行故障诊断和可靠性问题的预测，从而确保了系统的稳定运行。
文章来源于:国际电子商情 原文链接
本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。
相关文章
Blackwell 架构 AI 芯片过热延宕出货？ 戴尔CEO表态(2024-11-19)
Blackwell 架构 AI 芯片过热延宕出货？ 戴尔CEO表态;外媒 The Information 引用知情人士说法，Blackwell架构AI芯片专为AI和高性能计算（HPC）所设计，但72......
英伟达新一代AI芯片过热或延迟交付？回应来了……(2024-11-19)
英伟达新一代AI芯片过热或延迟交付？回应来了……;英伟达新一代 AI GPU面临芯片过热问题
根据知情人士的爆料，Blackwell AI GPU装入可容纳多达72颗芯片的服务器机架时会出现过热......
传英伟达GB300元件测试有过热问题，将拖延量产时间(2024-12-17)
DrMOS 芯片存在严重过热问题。如果这个的问题不能快速解决，则可能影响系统量产进度，并改变市场对AOS订单的预期。
报告指出，英伟达优先测试来自AOS 的5×5......
英伟达黄仁勋反驳三星HBM3e有问题(2024-06-06)
英伟达黄仁勋反驳三星HBM3e有问题;近日，英伟达(NVIDIA)执行长黄仁勋在2024年中国台北国际电脑展上对三星HBM因过热问题而未能通过测试的报道进行了反驳。
他表示，英伟达......
Blackwell架构AI芯片存在过热问题，英伟达修正产品预计2025年1月交货(2024-11-18)
Blackwell架构AI芯片存在过热问题，英伟达修正产品预计2025年1月交货;根据外媒The Information的报导，英伟达新一代Blackwell架构AI芯片在高容量的机架服务器中存在严重的过热......
揭秘英伟达新超算项目 AI算力达每秒800亿亿次(2023-05-30)
揭秘英伟达新超算项目 AI算力达每秒800亿亿次;在英伟达周一发布的一堆公告中，潜藏了一条消息：芯片巨头将在集团最大海外研发中心以色列，建设一台该国算力最强的AIGC云超算。
据英伟达介绍，这台......
汽车芯片企业盘点之：AI和自动驾驶时代不可替代的英伟达(2023-04-20)
汽车芯片企业盘点之：AI和自动驾驶时代不可替代的英伟达;AI和AIGC是当下全世界最为的热门话题，而英伟达凭借其在GPU技术和算力芯片方面的优势，已经成为了AI大厦里面最不可或缺的基石。以至于英伟达......
英特尔突袭英伟达H100！新AI芯片训练快40%(2024-04-10)
英特尔突袭英伟达H100！新AI芯片训练快40%;
，开始正面硬刚了。
就在深夜，英特尔CEO帕特·基辛格手舞足蹈地亮出了最新AI——Gaudi 3：
他为......
大厂发预警，芯片交期再次缩短，芯片过剩潮真的来袭？(2022-08-12)
大厂发预警，芯片交期再次缩短，芯片过剩潮真的来袭？;受困于行业需求疲弱，近期英特尔、英伟达、AMD等大厂发布的财报数据不如预期。此外，媒体报道芯片交付期在最近几个月出现缩短趋势，业界芯片过......
小米澎湃OS开机画面仍基于安卓！系统显示安卓14 原因揭秘(2023-10-30)
小米澎湃OS开机画面仍基于安卓！系统显示安卓14 原因揭秘;随着小米14系列评测解禁，有博主和网友发现，澎湃OS的开机画面依然显示“Powered by Android”，系统......