算力256TOPS,典型功耗35W,存算一体芯片杀入智能驾驶

发布时间:2023-05-11  

国产智驾芯片有了新玩家


“最高物理算力256 TOPS,典型功耗35W,基于12nm制程工艺。”


5月10日,后摩智能发布首款基于存算一体架构的智驾芯片——鸿途™H30,并公布上述关键指标。

算力、数据和算法,并称AI的三大核心要素。其中,算力属于基础设施,又被称为新时代的原油。随着ChatGPT语言大模型的出现,AI迎来了自己的iPhone时刻,算力的重要性也愈加凸显。


走在最前的英伟达,不断推出更高算力的芯片,一些玩家选择了跟随,另外一些选择另辟道路,通过存算一体、量子计算等突破算力瓶颈。


后摩智能的存算一体芯片H30,便是一道新的解题思路,也让主机厂、Tier 1有了更多新选择。


飙升的算力需求,待打破的“存储、功耗”墙


英伟达旗舰AI芯片H100,随着AI生成式大模型受到广泛关注,售价近期一度被炒到46000美金。


H100是英伟达于去年推出的一款全新架构的GPU芯片。


8块H100,再加上4个NVLink可以组合一个DGX H100,AI算力高达32 PetaFlops。英伟达CEO黄仁勋称,20块H100就可以承载全球互联网的流量。


热衷自动驾驶的特斯拉CEO马斯克,不久前购买了数千块H100,笑称“看起来每个人和他们的狗此时都在买GPU。”


H100大热,体现了市场对于芯片算力需求飙升,时代进入了一个AI爆发的新阶段。


不过,算力飙升后也让大家看到了芯片面临的瓶颈,即:存储墙和功耗墙。


目前市面上的大多数芯片,均基于1945年提出的冯·诺依曼计算系统进行设计,计算和存储功能分别由中央处理器和存储器完成。


在这一架构中,每次计算需要先读取内存的数据,计算后再存回内存,大部分过程都在读取和存储数据。


处理器的性能跟随摩尔定律逐年提升,存储器发展滞后。


随着数据处理量增大,存储速度跟不上数据处理速度,形成了“存储墙”。数据在处理器和存储器之间来回搬运,还造成了功耗损失,形成了“功耗墙”。


为了拆掉两块墙,芯片领域提出存算一体的新架构,直接利用存储器进行数据处理,这种新架构具备大算力、低功耗、低延时等优点。


后摩智能创始人兼CEO吴强的偶像是Jim Keller,后者是操刀过特斯拉FSD芯片的大神。Jim Keller曾说过,“不满于常规的改良,而是要做底层的重构和创新。”


因此,两年前创立后摩智能时,吴强选择了一个不依赖先进工艺,通过底层架构创新来实现AI计算效率的新方向。


这就有了后来的基于存算一体架构的鸿途™系列芯片。


面向智能驾驶,H30已支持点云、BEV网络


“256TOPS是物理算力,不是市面上常说的稀疏虚拟算力。”吴强向大家介绍H30芯片时重点强调。


物理算力是指芯片的理论峰值算力。


有人将算法比作公式,将物理算力比作人的智商。从物理算力的维度,市面上已量产的国产智驾芯片,基本上都不如H30。


H30的能效比也非常高。


基于更为成熟的 SRAM 存储介质,采用数字存算一体架构,H30在INT8 数据精度下AI 核心IPU 能效比高达 15 Tops/W,是传统架构芯片的7 倍以上。


根据后摩实验室及MLPerf公开测试结果,以经典的基础网络Resnet50为例,在 Batch Size 等于1 和 8 的条件下,分别达到了 8700 帧/秒和 10300 帧/秒的性能,是英伟达基于8nm芯片性能的5.7倍和2.3倍。


简单来说,H30 在芯片性能提升2倍的同时,功耗减少了50%。


那么,这块芯片能做什么?


后摩智能将第一款芯片产品的应用场景选在了智能驾驶领域。


吴强认为,智能驾驶芯片一定是要无限接近于人脑的计算方式和效率,而存算一体的价值正在于此,与智能驾驶的终局需求天然吻合。


作为一款面向智能驾驶的芯片,H30对于当下热门的神经网络均可以支持。而且,H30的架构专门针对智能驾驶场景,在低延时下性能可以更加充分地展现。


后摩智能表示,一些高阶自动驾驶领域常用的经典CV网络和自动驾驶网络等,目前已经成功移植到H30上,比如点云网络、BEV网络等。

此外,基于H30的智驾方案已经部署在后摩智能合作伙伴的无人小车上。比如,后摩智能与新石器无人车合作的无人驾驶解决方案,便是基于存算一体芯片。


基于H30,后摩智能还打造了力驭智能驾驶硬件平台,作为主机厂面向智能驾驶的参考设计和评估平台。


官方数据显示,力驭的CPU算力为200Kdmips,AI算力达到256 TOPS(INT8物理算力)。


按照规划,基于第一代产品H30的力驭计算平台将在今年6月向Alpha客户送测。第二代产品H50将于明年一季度回片,支持主机厂客户2025年的量产车型。


基于存算一体,变革底层架构


让H30拥有如此成绩的,是一套全新的架构。


主流芯片产品中,英伟达、高通、地平线等自动驾驶的芯片,基于冯·诺依曼架构,也就是存储分离。


H30则基于存算一体,从架构上进行底层创新。


后摩智能联合创始人兼研发副总裁陈亮总结,H30这款芯片实现了六项技术突破:


大算力、全精度、低功耗、车规级、可量产、通用性。


后摩智能自研了IPU处理器架构,第一代IPU天枢架构专为智能驾驶打造。


天枢架构的设计思路是,采用多核、多硬件线程的方式来灵活扩展算力,AI 计算可以在核内完成端到端处理,保证通用性。


H30芯片里面有4个IPU核,部署在系统总线NoC上。


每个IPU 核又由4个Tile组成,每个Tile对应一个硬件线程,既可以独立进行不同任务的计算,又可以联合进行同一个任务的计算。


每个Tile的内部,包含CPU、Tensor Engine、CIM、Feature Buffer、Special Function Unit、Vector Processor、DMA、Shared Memory&Controller。


其中,CPU可以调度这些执行单元,也可以做一些对算力要求不高的计算。


这些计算单元,还可以直接共享一个多Bank的共性存储资源。


基于后摩的IPU架构,AI计算不需要在CPU、GPU、DSP等不同的处理器之间分配任务,而是可以在核内完成端到端的计算。


此外,后摩智能设计了专用的数据传输总线,搭配多通道,可以在4个Tile和各个IPU 核之间建立高速的数据传输通道。


为了发挥数据复用的特性,后摩智能还设计了多播的传输机制,一个Tile里数据,可以通过一次DMA传输,广播给其他多个Tile,从而不需要多个Tile多次读取数据。


存算一体的架构,让H30可以更好地计算与存储,AI Core计算利用率达到80%以上。


最后,由于具备良好的扩展性,让这款芯片有了更多想象空间。


据了解,后摩智能的下一代芯片,将支持扩展更多核,基于Mesh互联结构,可以将计算单元灵活配置,实现算力规模的可大可小。


可以合理推测,后摩智能的下一代架构的芯片有望支持类似GPT的大模型,甚至有可能应用于更大算力的自动驾驶场景。


实际上,存算一体领域,不止有后摩智能一家,其它还包括知存科技、亿铸科技等,不同的是,后摩智能选择了智能驾驶赛道作为落地。


随着算力需求的爆发和更多芯片产品落地,存算一体正在获得越来越多的认可。


总之,在降本增效的趋势下,拥有成本优势的存算一体智驾芯片,也让主机厂在英伟达、地平线等芯片外,有了更多新的选择。


退一步说,站在芯片安全的角度,存算一体智驾芯片可以与先进制程工艺解绑,也让智能汽车被“卡脖子”的隐患得到了一定缓解。


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>