Arm推出Ethos-U85、Corstone-320,加速推动边缘AI系统落地

发布时间:2024-04-12  

近年来,伴随着Transformer与大模型的发展,AI模型的普适性、多模态支持,以及模型微调效率都有了质的突破,加上低功耗的AI加速器和专用芯片被集成到终端设备中,边缘智能正变得越来越自主和强大。

边缘AI潜力巨大,有望助力多个领域的持续智能化演进与转型。Arm的客户与生态伙伴在智能家居、智能零售与智能制造等领域不断创新,进而实现感知、决策与行动的闭环,提高自动化水平。为了加速AI系统的快速落地,Arm近日推出了全新AI微加速器Arm Ethos-U85,以及全新的智能物联网参考设计平台Corstone-320。

Arm物联网事业部业务拓展副总裁马健(Chloe Ma)介绍道,Arm为了实现AI算子延展与部署简化,在过去十年中进行了大量投资并优化性能。

Arm边缘AI领域的厚积薄发

1Arm赋能边缘AI持续创新

起初,Arm聚焦在优化各类传感器必需的嵌入式处理器上,致力于实现超低成本、低功耗和小面积,并支持控制级代码的开发;随着万物互联的发展,连接使边缘算力和安全性变得越来越重要,该公司顺势推出了Armv8-M和Arm TrustZone等技术来增强算力与安全;当边缘与端侧AI推理需求增长, Arm在嵌入式领域引入了Armv8.1-M,Arm Helium技术使CPU能够执行更多计算密集型的AI推理算法;紧接着,Arm又推出了业界首款 AI 微加速器 Arm Ethos NPU,来满足更高性能和更复杂的AI工作负载。

马健评价说:“Arm在AI时代的演进中起到了至关重要的作用。诸多基于Arm架构的边缘AI解决方案的成功部署,让我们更加坚信AI需要硬件和软件之间的紧密结合。”当然,当系统变得愈加强大,其复杂度也随之提升。软硬件必须协同工作才能释放AI处理的最大潜能。因此,Arm不仅聚焦处理器IP,也在软件与工具链方面加强投资,确保满足高性能边缘AI系统的开发需求。

为了达成“软硬件紧密结合”的目标,Arm与生态合作伙伴正齐心协力合作。据马健介绍,目前在 Arm软硬件计算平台上涌现了大量创新,包括:恩智浦半导体(NXP)的i.M系列、瑞萨电子(Renesas)的RA8系列、英飞凌(Infineon)的PSoC Edge、Alif Semiconductor的Ensemble等边缘AI芯片方案。同时,Arm也在与一系列软件算法与工具伙伴合作,以确保为边缘AI系统开发者提供工具和技术支持。

为了进一步推动边缘 AI 的落地,Arm近日又更新了智能物联产品组合,此次的新产品组合包括——全新AI微加速器Arm Ethos-U85和全新智能物联网参考设计平台Corstone-320。

·全新AI微加速器Arm Ethos-U85

Arm Ethos-U NPU系列是业界首款AI微加速器,英飞凌、恩智浦半导体、奇景光电(Himax)、Alif Semiconductor和Synaptics等企业均已推出搭载Ethos-U的量产芯片。全新的Arm Ethos-U85属于Arm Ethos-U NPU系列,它为高性能边缘AI应用带来了四倍的性能提升,20%的能效提升,并保持了一致工具链,可实现无缝的开发者体验。Arm Ethos-U85支持从128到2048个MAC单元的配置,在最高性能配置下提供4TOPs的AI算力。据介绍,Ethos-U85的目标应用场景是智能家居、零售、工业等新兴边缘AI应用场景。

2Arm Ethos-U85提供卓越的神经网络加速功能

此外,Ethos-U85增加了Transformer架构网络的支持,这是优化大模型边缘落地微调时间、提升模型泛化的一个关键特性。具体来看,Ethos-U85不仅提供卷积神经网络(CNN)所需的权重矩阵乘的运算,还支持矩阵相乘——这是Transformer架构网络的一个基本组成部分。基于Transformer的模型具有优异的泛化功能,它将更快地驱动新AI应用的发展。

Transformer在视觉和生成式AI用例中,比如视频理解、图文结合、图像增强与生成、图像分类和目标检测等方面都极有价值。Transformer架构网络的注意力机制容易利用并行计算来实现,提高硬件使用效率,这些模型能够部署在计算资源有限的边缘设备上。开发者可通过选用针对Transformer架构网络优化的设计,使边缘AI应用享有更快的推理、更优化的模型性能和可扩展性。

Ethos-U85不仅支持低功耗MCU系统中的AI加速,还支持在高性能边缘计算系统中的应用处理器、标准操作系统和高级开发语言的部署,这种模式更有利于云原生开发和云边端负载调度。而Arm Ethos-U85和Armv9 Cortex-A CPU的组合,可为基于应用处理器的智能物联网平台上运行的AI任务实现加速,给工业机器视觉、边缘网关、可穿戴设备和消费类机器人等应用带来高效能的边缘推理。

·全新智能物联参考设计平台Arm Corstone-320

Arm为了帮助合作伙伴简化系统开发进而加快上市时间,还推出了最新的具备Ethos-U85的边缘AI参考设计平台——Arm Corstone-320。

Corstone-320包含了嵌入式处理器Cortex-M85,以及全新的Ethos-U85 NPU AI加速器。由于视觉在多模态感知中起到了关键作用,许多边缘MCU和传感器系统越来越依赖于视觉和图像感知,Corstone-320还包含了Arm Mali-C55 ISP,以实现为视觉应用优化的低功耗系统。据悉,该参考设计针对实际工作负载开发,其参考用例包括部署在智能家居中的电池供电摄像系统,以及在工业和零售系统中的低帧率网络摄像头。

另外,Corstone-320参考设计还提供有安全保证的软硬件组合,使得在此参考设计基础上开发的合作伙伴,可顺利地通过PSA Certified Level 2认证,实现对区域和全球安全标准的合规。马健强调说:“通过Corstone-320预先集成、预先验证的参考设计模版,Arm能帮助合作伙伴节省边缘智能芯片的开发成本和时间。”

值得注意的是,Corstone-320不仅提供芯片计算子系统IP组合,还附带了软件、AI模型库和开发工具,以实现软件的复用。它附带了仿真Corstone-320完整系统的Arm虚拟硬件,以及单独的CPU和NPU的固定虚拟平台(FVP)模型,以简化开发并加速产品设计,支持软硬件并行协同开发。马健评价道,这种提供边缘AI和智能物联网计算子系统全套软硬件和工具链的方法,使得其合作伙伴能够在一系列性能点上,快速开发并聚焦于打造差异化价值。

助力生态伙伴加速边缘AI设备部署

3Arm助力加速边缘AI设备部署进程

简单易用才更适于普及推广,随着边缘AI的持续扩展,物联网生态链上下游的芯片与系统供应商、算法软件开发者与集成商们越来越汇聚在Arm计算平台。

马健认为,是因为Arm计算平台能提供AI从云到端、现代敏捷开发和部署流程中所需的特性和功能,实现基于量产验证的一致架构,并采用统一工具链的AI转型。包括开发者、数据科学家、学术界在内的AI研究开发社区,不仅持续受益于Arm生态系统与合作伙伴提供的丰富信息与知识,也围绕Arm计算平台构建日益增长的软件和工具生态系统,以及开源软件库和AI框架。又得益于Arm特有的IP授权许可模式和开放生态,OEM和ODM可以有多种基于Arm架构和计算平台的芯片与模组选择,更灵活地开发适于最终应用的系统方案。

当下市场上边缘用例繁多,传统物联网市场存在碎片化,为了更好地统一多样化的应用要求,达到规模化效益,软件定义和适于软件移植的标准必不可少。全新的Ethos-U85和Corstone-320参考设计平台,满足了边缘AI用例对更高性能计算的需求,为最新的AI模型、框架提供了原生支持,并沿用Arm软件与AI开发者已经熟知的工具链,具有投资复用、上手容易等优势。这些最新的产品与参考设计加入了Arm丰富的IP产品和技术组合中,使Arm技术能够覆盖更广泛、多样化的智能物联网应用,并满足最新边缘AI市场的性能、成本和能效需求。

边缘AI还将随着大模型和生成式AI崛起,用户体验的持续提升、数据量激增,以及企业对数据价值的认可,将使行业经历巨大变化,例如在设备上实现实时语言翻译等。随着大模型持续通过量化、剪枝和聚类技术来缩减优化模型,使大模型适于在边缘和超级终端设备部署,大小模型云边端结合成为未来AI产品的重要发展趋势,也是AI应用赋能行业发展的重要方向。

马健最后指出,边缘部署大模型和生成式AI用例指日可待,而Arm已经为此做好准备,来挑战物联网与大模型、多模态AI结合的性能与效率极限。

文章来源于:国际电子商情    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>