IT之家 3 月 22 日消息,在 GTC Spring 2023 主题演讲中,针对不断增长的 AI 市场,推出了全新的双 产品 H100 NVL。H100 NVL 在顶部配备了 3 个 NVLink 连接器,使用两个相邻的 PCIe 显卡插槽。
本文引用地址:表示在运行大型语言模型(LLM)时,常规显卡的显存无法驾驭庞大的数据流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 显存,单卡显存容量 94GB。
H100 NVL 的功耗略高于 H100 PCIe,每个 为 350-400 瓦(可配置),增加了 50W。IT之家从报道中获悉,总性能实际上是 H100 SXM 的两倍:FP64 为 134 teraflops,TF32 为 1979 teraflops,FP8 为 7916 teraflops,INT8 为 7916 teraops。
内存带宽也比 H100 PCIe 高很多,每个 为 3.9 TB / s,总和为 7.8 TB / s(H100 PCIe 为 2 TB / s,H100 SXM 为 3.35 TB / s)。
文章来源于:电子产品世界 原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。
相关文章
英伟达两款GPU售价大涨40% 新订单交期或延长至12月(2023-05-24)
英伟达两款GPU售价大涨40% 新订单交期或延长至12月;
【导读】由于人工智能蓬勃发展,英伟达A100和H100 GPU现在非常热门,以至于该公司无法跟上需求,据市场消息人士透露,英伟达......
英伟达确认为中国推三款改良AI芯片 性能暴降80%(2023-11-13)
管制提前生效,这就导致英伟达不得不断供一些正在进行的订单。
英伟达表示,影响适用于“总处理性能(TPP)”为 4800 或更高,并为数据中心设计或销售的产品,即A100、A800、H100、H800和L40S的出......
英伟达确认为中国推三款改良AI芯片 性能暴降80%(2023-11-13)
提前生效,这就导致英伟达不得不断供一些正在进行的订单。
表示,影响适用于“总处理性能(TPP)”为 4800
或更高,并为数据中心设计或销售的产品,即A100、A800、H100、H800和......
英伟达即将失去中国两大合作伙伴(2023-03-10)
英伟达即将失去中国两大合作伙伴;仍然认为,如果美国政府进一步限制向华为和浪潮出售其 A100 和 H100 级产品,它将不得不在亚太地区为其计算 找到合适的合作伙伴。但这可能不会特别容易,因为......
ChatGPT等火爆,英伟达增加A100等旗舰GPU投片(2023-03-22)
ChatGPT等火爆,英伟达增加A100等旗舰GPU投片;
【导读】台媒电子时报援引业内人士消息称,英伟达增加了台积电A100和H100 GPU的代工订单,为大陆市场设计的A800系列......
英伟达正考虑将部分AI GPU外包给三星生产(2023-07-06)
H100、A100、H800和A800等高性能GPU的需求,这使得该公司在全球AI GPU市场拿下达90%的市占率。
投行摩根大通认为,凭借GPU和网络产品等硬件产品,英伟达......
传美国将限制英伟达AI芯片出口到部分中东国家(2023-08-31)
的出口限制扩大到部分中东国家。
英伟达在向SEC递交的10-Q文件中提到,美国政府通知英伟达,在向中东一些国家出口A100和H100等AI芯片时有额外的许可要求。该公司表示,正在与美国政府合作解决这个问题,新的......
英伟达收到美国政府通知:最新AI芯片管制提前生效(2023-10-26)
数据中心设计或销售的产品,即 A100、A800、H100、H800 和 L40S 的出货。但英伟达并没有在公告中透露,处于限制令边缘地带的消费级显卡 RTX 4090 的管制是否立即生效。
根据......
AI提振半导体:英伟达营收有望达3000亿美元;英特尔/台积电等受益!(2023-07-28)
发展自身业务,包括采用A100和H100。
今年6月媒体报道,今年拥有云端相关业务的企业,大多都向英伟达采购了大量GPU,目前该公司订单已排至2024年。
02
先进封装供不应求
目前......
芯片封测厂商也将从英伟达AI芯片需求增加中获益(2023-05-29 15:18)
2023财年第一财季的营收,环比增长19%,美国通用会计准则下的净利润则是环比大增44%。相关厂商对英伟达AI芯片的需求,体现在针对数据中心的高性能GPU上,主要是H100、A100以及......