昨日,Arm推出了专用AI应用而设计的Cortex-M52处理器,虽然没有引发太多讨论,但实际它的意义远超想象。
要知道,Cotex-M系列内核是大多数MCU的构成基石,M52要替换掉现在的M33或M3/M4,而之前拥有AI功能的MCU,基于高端市场Cortex-M85和M85。
也就是说,从现在开始,低端市场也都能拥抱AI了,MCU厂商也要开始新一轮MCU大换血,更多拥有AI产品的MCU即将到来。
举个例子来说,把几亿人信息全都装进云端处理,显然不现实,而当边缘端拥有AI,把专业的医学知识灌注给它,它就会像一个移动医生一样,随时判断心率、血氧变化是否健康。这就是边缘AI的重要意义,这样的例子在边缘AI中不胜枚举,而现在这样的覆盖越来越趋近超小型设备,实现真正地万物互联。
换掉你的M33和M4
Cortex-M52有哪些信息值得关注?
第一,M52加入了Arm Helium技术。
从整体架构来看,除了Helium技术,整体与M33和M4基本一致。
Helium主要作用就是做AI计算,为小型低功耗嵌入式设备的DSP和ML应用带来显著的性能提升,无需专用NPU即可在端点中部署更多计算密集型ML推理算法。
在AI性能上,M52提升非常大。与M33相比,M52的ML性能可提升多达5.6倍,DSP可提升多达2.7倍,能效提升了2.1倍。
不过,在面积方面,M52比M33大30%,比M55小23%。换言之,与M33相比,M52的硅面积增加了约10%,换来了大约5%的整体性能提升。由此,可以看出M52的定位,用更多面积换取更多AI性能,并以此划分新产线。
第二,M52实现到Arm v8.1的迁移。
M52的定位是取代M33和比较古老的M4(主流)和M3(性能),目前,M33位Arm v8-M架构,M3和M4则是更老的Arm v7-M架构,换言之,可以全面拥抱64位。
其中,Arm v8-M相比老一代架构无疑拥有非常大的新特性和功能,此外,TrustZone这项新功能最为值得关注。在物联网快速发展的今天,信息技术也非常发达,因此安全技术就显得尤为重要,TrustZone其核心就是朴素的硬件隔离,但这也一定能为未来AI的安全保驾护航。
此外,M52还有助于加速推出PSA Certified Level 2认证芯片,进而实现下一代PSA Certified 认证的设备。最新的Armv8.1-M 内核提供增强的功能安全特性,这对许多汽车和工业控制应用至关重要。与M33相比,M52提供的扩展安全包和功能可帮助合作伙伴更快速、更轻松地获得 FuSa认证。
第三,迁移到M52开发,不是难事。
官方介绍,M52与M55和M85在软件上完全兼容,使开发者能够受益于围绕Helium不断发展的软件和工具生态系统,并善用来自Arm合作伙伴生态系统的免费软件库和丰富知识库。为了帮助简化和加快物联网及嵌入式开发流程,M52还可以Arm虚拟硬件的形式被获取,Arm虚拟硬件是一种基于云的解决方案,能够在芯片就绪前就能启动软件开发。
过去,为了实现M52所提供的ML和DSP性能,往往需要将CPU、DSP 和 NPU 结合起来,但如此一来,在硬件准备就绪后,开发者需要使用三个不同的工具链、编译器和调试器进行芯片的编写、调试和代码调整。
而现在,开发人员可以针对通用API使用单一语言进行编码,并在应用程序的DSP和ML元素中实现所需的性能,无需了解处理器的具体硬件细节。保了过去传统的、DSP和ML的工作负载能够实现一致的开发流程,而针对领先的ML框架的特定集成和优化将确保开发者拥有无缝流畅的开发体验,并充分发挥Cortex-M的极佳性能。
与此同时,M52提供了从M33和M4的简化迁移路径,可满足广泛的AIoT应用需求,实现更丰富的用户界面 (UI)、语音和视觉体验,例如汽车和工业控制、预测性维护和可穿戴传感器融合。Cortex-M52 能为一系列性能点和配置提供可扩展的灵活性,同时无需独立的处理单元即可提供 DSP 能力,从而节省芯片的面积与成本。
传统的嵌入式开发者需要掌握人工智能所需的数学、数据分析、工具链专业知识和编程技能。而要提高 AIoT 设备的出货量,开发者的参与至关重要。通过M52,Arm提供了现代化开发流程所需的关键特性和功能。
第四,M52脱胎换骨于“星辰”STAR-MC2。
实际上,这款产品在早年就已经面世,先前在中国市场,它被称为“星辰”STAR-MC2,是Arm和安谋科技研发工程团队的合作产品。也就是说,M52其实根植于中国市场,有着中国市场基因,其中一些设计哲学也会更靠近国人习惯。
Arm全面竞逐AI
根据Arm的介绍,来自主要客户的第一批芯片预计将于明年到货。
纵观Arm的发布,从2020年Helium开始,Arm就开始展现野心,逐渐收拢自己的产品线,整合自己的产品线,有点类似英特尔、AMD产品那样的型号分布,即M52、M55、M85。未来或许还会拥有更低功耗的一款AI芯片,形成一道新的Arm v8.1产品线。
整个产品线定位也非常清晰,M55、M85还有NPU产品还会继续在一些高级的AI场景使用,M52则也会针对物联网设备、端点、传感设备和大多数其他对成本敏感的小型设备,填补低端市场的空白。
事实上,在AI方面,Arm做得远比我们想象中要多。
全球约有 90%的AI都运行在基于Arm架构的CPU上,当今85%的智能手机都通过基于Arm架构的平台来处理 AI 工作负载,其中涵盖了如关键词和对象检测以及语音识别等常见的AI工作负载。此外,种种动作,正在昭示Arm在AI上竞逐的野心:
Arm与英伟达合作,在英伟达Grace CPU中使用Neoverse N1架构,为大型语言模型(如OpenAI GPT-3)提供高性能计算;
Arm与Meta合作,在Meta 2头戴式显示器中使用Cortex-A CPU,为增强现实应用提供高效处理;
Arm与梅赛德斯-奔驰合作,在其EQS电动汽车中使用Cortex-A CPU,为智能驾驶提供高级计算;
Arm宣布,对树莓派 (Raspberry Pi) 进行战略投资,并收购了树莓派少部分股权。进一步扩大两家公司之间成功的长期合作伙伴关系,加强AIoT合作。
MCU与Arm在做同一件事
越来越多人发现,在MCU加入AI,是稀疏平常的一件事。
NXP推出了通用MCU平台——MCX微控制器产品组合,它融合了LPC、Kinetis传统优势,其中在通用MCU中添加一个硬件NPU,来为一些边缘侧通用的AI运算进行专门的加速;
英飞凌近日宣布推出PSoC Edge系列微控制器,为边缘操作机器学习 (ML) 的设备提供高性能和安全性;
德州仪器最近几年推出的MCU均在边缘AI领域具有优势,包括高集成可扩展的边缘AI处理器组合;2023年5月,收购瑞典的TinyML和AutoML领域初创公司Imagimob AB;
Microchip在2020年就将Cartesiam(现已被ST收购)、Edge Impulse和Motion Gestures的软件和解决方案接口引入其设计环境;
ST在2019年通过STM32Cube-AI将ML用于32位MCU;2021年收购NanoEdge AI Studio,降低边缘AI开发门槛;2021年6月,ST收购边缘AI软件专业开发公司Cartesiam;2023年,使用NVIDIA TAO 工具套件拓展STM32边缘AI生态;2023年5月,ST推出了其最新的64位微控制器STM32MP2;
2021年,瑞萨推出面向AI的领先MPU产品;去年中旬,瑞萨完成对Reality AI的收购,可为汽车、工业和消费类产品中的高级非视觉传感提供嵌入式AI和微型机器学习(TinyML)解决方案;
ADI的MAX7800X的CNN加速器可以将功耗降低99%以上,而且算法在CNN上执行的效率也比DSP上更高;
Alif Semiconductor推出Ensemble系列融合微控制器。
现在,对于MCU厂商来说,明年将会是更卷的一年。不难预见,更多MCU将会升级为M52内核,逐渐替代现有M33/M3/M4内核产品,全面拥抱Arm v8.1-M。
AI让边缘更智能,边缘让AI无处不在。不难预见,未来十年,AI会是MCU最大市场最大的推动力。
Gartner也在报告中指出,在2到5年内,具有AI能力将会成为嵌入式产品的标配。 在最近的英特尔FPGA技术大会上,英特尔也强调了嵌入式AI的重要性。
也许,未来真的应验那一句——喝杯咖啡,咖啡机都是带有AI功能的。
[1] Arm社区:Arm 扩展 Cortex-M 产品组合,将人工智能引入超小型端点设备.2023.11.23.https://mp.weixin.qq.com/s/OZ0x89yUm8GBEBFul0BLlg
[2] WikiChip:Arm Launches the Cortex-M52 For IoT; Its Smallest Processor with Helium.2023.11.22.https://fuse.wikichip.org/news/7611/arm-launches-the-cortex-m52-for-iot-its-smallest-processor-with-helium/
[3] Arm:Introducing Cortex-M52: Bringing Arm’s AI-optimized Helium architecture to the smallest IoT devices.https://community.arm.com/arm-community-blogs/b/internet-of-things-blog/posts/introducing-cortex-m52
[4] 半导体行业观察:MCU巨头,殊途同归.2023.11.22.https://mp.weixin.qq.com/s/GskIet_GeZfXY6lLsGoksQ