英伟达GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

发布时间:2024-03-14  

3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。

2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。

晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。

乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。

用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。

四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。

WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心

NVIDIA GPU弱爆了!世界第一AI芯片升级4万亿晶体管、90万核心



文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    英伟达推新AI笔电GPU 台厂欢呼;(NVIDIA)26日宣布,推出全新RTX 500/1000 ,以满足笔电等行动装置运行AI应用,新笔电预期将在今年春天上市。业者指出,广达、英业达、仁宝......
    英伟达推出新AI硬件; 【导读】英伟达推出2款新AI硬件,H200 NVL PCIe GPUGB200 NVL4。英伟达表示约七成的企业机架仅可提供不到20kW的电力供应,并采......
    英伟达推出首个数据中心CPU,基于Arm架构,可用于大规模AI和高性能运算;4月13日消息,昨日,英伟达推出了其首个数据中心CPU,该处理器基于Arm架构,代号Grace。 据英伟达......
    尚未宣布他们将从哪里采购用于其GH200 GPU全新HBM3e内存芯片。但此前据韩国《Money Today》《首尔经济日报》援引业内人士的消息称,英伟达已向芯片制造商海力士(SK Hynix)索要......
    英伟达推出新款AI笔电GPU; 【导读】AI芯片大厂Nvidia宣布,推出全新RTX 500/1000 GPU,满足笔电等行动装置运行AI 应用,合作伙伴包括微星、戴尔、惠普与联想等,新产......
    体方面,高通、联发科、英伟达、英特尔、AMD、SK海力士、黑芝麻智能等厂商展示的最新产品/技术,包括SoC、CPUGPU、存储器等,都紧密结合AI议题,性能体验大幅提升,吸引......
    勋 要知道,两年前英伟达推出的A100其性能到现在也没有对手,而去年GTC 2022所推出的H100更是一下子将最强GPU的标准整整提升了3倍!而本次GTC所推出的H100至尊版(H100 NVLINK......
    :                               另外英伟达推出的新软件“NIM”,全名是英伟达推理微服务,主要是为了帮助企业用户更便捷地使用旧的英伟达GPU来运行AI软件,这样一来公司们可以继续使用已经拥有的GPU,而英伟达也希望通过这项服务来吸引更多客户订阅英伟达......
    2080亿晶体管,英伟达推出最强AI芯片GB200;目前,位居人工智能世界之巅,拥有人人都想要的数据中心 GPU。其 Hopper H100 GH200 Grace Hopper 超级......
    AMD叫板英伟达为何吃力不讨好?国产GPU不能只看算力; 【导读】近日,芯片巨头AMD推出全新AI GPU MI300系列芯片,与英伟达在AI 算力市场展开竞争。AMD首席......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>