爱芯元智正式公布混合精度NPU中文名称“爱芯通元®”

发布时间:2023-07-19  

中国 上海 2023年7月19日——爱芯元智宣布,企业核心技术混合精度NPU正式启用中文名称“爱芯通元®”。与此同时,爱芯元智联合创始人、副总裁刘建伟在第三届中国集成电路设计创新大会暨无锡IC应用博览会(ICDIA 2023)的“AIoT与ChatGPT”专题论坛上,受邀做《爱芯元智AX650N Transformer端边落地平台》主题演讲,并介绍了第三代SoC芯片AX650N在端侧、边缘侧部署Transformer的领先优势。


 image.png


爱芯元智混合精度NPU中文名“爱芯通元®”正式公布


近年来,AIoT行业规模快速成长,不仅是各大传统行业智能化升级的最佳通道,也是未来物联网发展的重要方向。同时,自2022年底发布以来,以ChatGPT为代表的大模型引发国内外科技巨头的纷纷布局,人工智能发展也进入了一个全新的时代。可以看到,伴随着AIoT以及AI大模型的快速发展,底层硬件的数据存储、计算性能、图形处理能力都面临着极高的要求。


在爱芯元智看来,大模型具有通识能力,能够降低人工智能在场景落地的成本,而未来,每一个人都可能在终端拥有一个智能助手。在人工智能发展的过程中,爱芯元智提供的则是芯片基建,即通过人工智能芯片提供感知与计算的基础能力,助力AI在端侧边缘侧的落地。


感知层面,爱芯元智致力于让摄像头看得更清,从而打造物理世界的数字化入口;计算层面,爱芯元智致力于让摄像头看得懂,将为各种AI模型在端侧和边缘侧的落地提供更高的算力基础。本次ICDIA 2023现场,爱芯元智正式公布了混合精度NPU的官方中文名“爱芯通元®”,意在为各种智能算法提供基本算力支撑,让智能在端侧和边缘侧对世界产生更深入的理解,助力更美好的生活。


定位人工智能感知与边缘计算基础算力平台,爱芯元智自2019年成立以来便聚焦感知与计算基础能力,自主研发了爱芯智眸®AI-ISP和爱芯通元®混合精度NPU两大核心技术。后者通过减少内存墙和功耗墙的阻碍,在端侧边缘侧面积、功耗受限的情况下,以更高的有效算力支持更多的智能算法,降低AI部署成本。


目前,爱芯元智已完成四代多颗芯片产品的研发和量产工作,并逐渐落地智慧城市、智能驾驶和AIoT三大市场。“这些市场都将感知和计算作为基本能力,这也是爱芯元智选择不同市场的逻辑”,刘建伟表示。


高性能、高精度、易部署,爱芯元智AX650N成Transformer最佳落地平台活


在AI芯片设计开发时,爱芯元智高度重视应用、算法与NPU的深度结合。应用方面,爱芯元智通过数据流优化、前后级处理加速来实现更高的性能;算法方面,爱芯元智会通过算子加速、网络微结构加速、内存优化等设计,从算法的角度来提高硬件的利用率;同时,爱芯通元®混合精度NPU是一个异构多核系统,并且内置多核硬件调度机制减少对CPU的占用,让系统应用跑得更快。


基于应用、算法与NPU联合优化的设计理念,爱芯元智推出的边缘侧、端侧人工智能处理器芯片均具有高性能、低功耗等优势,其第三代高算力、高能效比SoC芯片AX650N更成为Transformer最佳落地平台。


实测数据显示,爱芯元智AX650N不仅在传统的CNN网络上性能优异,在端侧部署Transformer网络SwinT也表现出色,实现了361FPS的高性能、80.45%的高精度、199 FPS/W的低功耗以及原版模型且PTQ量化的极易部署能力。同时,AX650N还支持低比特混合精度,用户如果采用INT4,可以极大地减少内存和带宽占用率,从而有效控制端侧边缘侧部署的成本。


目前,爱芯元智AX650N已适配ViT/DeiT、Swin/SwinV2、DETR等Transformer模型,最先进的计算机视觉自监督模型DINOv2也在AX650N上达到了30帧以上的运行结果。为了帮助开发者对Transformer做更好的落地尝试,爱芯元智还推出了基于AX650N的面向生态社区和行业应用的开发套件“爱芯派Pro”,助力探索更丰富的产品应用。


面对大模型掀起的新一轮AI热潮,爱芯元智AX650N也将针对Transformer结构进行进一步优化,并且将探索多模态方向的Transformer模型。爱芯元智希望通过感知和计算核心技术,加速端侧边缘侧智能落地,真正实现普惠AI,让人们的生活更加美好。


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>