NEO发表最新3D X-AI芯片,新技术可取代HBM?

发布时间:2024-08-15  

专注于3D DRAM、3D NAND存储器厂NEO Semiconductor发表最新3D X-AI芯片技术,取代目前用于AI GPU加速器的HBM。

据悉,这款3D DRAM内建AI处理功能,使处理和生成不需要数学运算输出,当大量数据在存储器与处理器间传输时,可减少数据汇流排(DataBus)问题,提升AI效能与效率。

3D X-AI芯片的底层有个神经元电路层,可处理同一芯片上300个存储器层所储存的数据。NEO Semiconductor表示,由于8,000个中子电路(neutroncircuits)可在存储器中进行AI处理,该3D存储器效能可提升100倍,存储器密度比目前HBM高8倍,透过减少在GPU中处理的数据量,可降低99%耗电量。

NEO Semiconductor创办人兼CEO许富菖指出,由于架构和技术低效率,目前AI芯片浪费大量效能和电力。目前AI芯片架构是将数据储存在HBM、GPU负责执行所有运算,这种架构将数据储存与处理分离,使数据汇流排成为无法避免的效能瓶颈,当大量传输数据时效能有限,耗电量也非常高。

3D X-AI可在每个HBM芯片中执行AI处理,大幅减少HBM与GPU之间传输的数据,提升效能并大幅降低功耗。

X-AI容量为128GB,每个芯片可支援10TB/s的AI处理能力。将12个裸晶(X-AI)堆叠在单一HBM封装中,可实现超过1.5TB储存容量和120TB/s处理吞吐量。

目前许多公司研究能提高处理速度和通讯吞吐量的技术,当半导体速度越来越快、效率越来越高时,在元件之间传输数据的汇流排将成为瓶颈,因此这样的技术将可让所有元件一起加速。

台积电、英特尔、铠侠等公司都在研究光学技术,以加快主机板内的通讯速度,透过将部分AI处理从GPU转到HBM,NEO Semiconductor可降低工作量,使效率远高于目前耗电的AI加速器。

原标题:3D DRAM内建AI处理!NEO新技术可取代HBM,解决现有瓶颈

封面图片来源:拍信网

文章来源于:全球半导体观察    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>