在数字化浪潮的推动下，人工智能（AI）已成为改变世界的核心力量。意法半导体（ST），作为全球排名前列的半导体解决方案提供商，一直致力于探索人工智能技术的最前沿。日前，意法半导体在线上举行了一场关于边缘AI（Edge AI）的媒体沟通会，亚太区人工智能技术创新中心和智能手机技术创新中心的高级经理Matteo MARAVITA为我们揭示了意法半导体在AI领域的深度布局与未来设想。

意法半导体亚太区人工智能技术创新中心和智能手机技术创新中心的高级经理Matteo MARAVITA

边缘AI构成未来互联世界的核心

Matteo指出，AI技术对于建设未来的互联世界至关重要。在这个由数十亿个设备构成的万物智能世界中，设备不仅具备更高的安全性、连接性和智能性，而且它们之间的交互将更加紧密和智能。这种云连接智能边缘（Cloud-Connected Intelligent Edge）将成为未来世界的基石。

这些智能设备将覆盖我们日常生活的方方面面，从家庭到工厂，从公司到城市再到交通出行等各个领域。Matteo表示，当考虑到这些设备及其背后的商业模式时，我们可以清晰地看到边缘人工智能将为未来带来何种深远影响。

边缘AI三要素

Matteo进一步阐述了实现边缘AI所需的三大要素：安全性、连接性和自主性。这些要素共同构成了边缘AI的核心框架，为智能设备的运行提供了坚实的基础。

意法半导体重点介绍了如何提高设备的智能和自主性。Matteo表示，意法半导体正致力于通过创新的技术和解决方案，提升设备的智能和自主性，以满足未来世界的需求。

意法半导体的边缘AI实践

为了具体展示意法半导体在边缘AI领域的实践成果，Matteo给出了几个生动的案例。

首先是车规传感器的应用。意法半导体正在与HPE集团合作，利用边缘人工智能优化电动汽车的电机运维。他们开发的虚拟传感器解决方案，通过在Stellar系列车规微控制器上运行人工智能算法，能够获取电机运行数据，进而推断和估计电机内部无法测量到的温度。这种技术不仅提高了电机的运行效率，还为电动汽车的预测性维护提供了新的可能。

另一个案例是与惠普的合作。意法半导体利用智能传感器IMU，与惠普共同优化了笔记本电脑的电源监控。通过收集机器在不同条件下的运行数据，双方工程师合作开发和训练了基于设备和用户动作的AI模型。这种模型能够识别特定的使用场景，例如在关闭笔记本电脑前避免过热和电池耗尽。这种技术可延长笔记本电脑的待机时间并提高使用寿命。

有意思的是，意法半导体还将人工智能应用到了传统的家电产品中，如洗衣机。通过在洗衣机电机控制的STM32微控制器上运行人工智能算法，意法半导体能够估算待洗衣物的重量。根据计算，一个洗涤周期节省 15 到 40%的能源和水。同时，人工智能算法还能够检测滚筒在旋转时可能发生的碰撞情况，提高了洗衣机的稳定性和耐用性。

边缘AI面临的挑战与解决方案

Matteo表示，意法半导体十年前就开始人工智能研发计划，从机器学习技术的基础研究开始，随后将边缘AI定为公司的发展路径，专门针对硬件资源受限的设备进行优化。2018 年，意法半导体发布了首个 STM32 AI 库（Cube AI）。2019年推出内置 MLC 机器学习核心的 MEMS 传感器。并加入了 TinyML联盟。2020年将人工智能的布局和支持范围扩展到汽车、Linux等领域。2021年发布了NanoEdge AI生态系统。2022 年，发布了集成更先进硬件加速器的 MEMS 传感器ISPU，能够在同一传感器内运行较小的深度学习网络。2023年发布了 STM 32 开发者云模型库，并更新了 Stellar 系列车规 MCU 工具。

意法半导体边缘AI研发部署经验

一系列在边缘AI领域的实践，也使得意法半导体不断迭代边缘AI的产品及方案，“成为了边缘AI基准测试多年来主要的技术贡献者”，STM32 是在 MLPerfTiny5基准测试提交项目数量排名第一的解决方案，在所有提交的项目中，有73%是基于STM32的。

尽管边缘AI带来了巨大的潜力和机遇，但开发人员在实现过程中也面临着诸多挑战。在硬件方面，他们需要在确保应用整体性能的同时，考虑安全性、功耗等因素。而在软件方面，他们需要在设备中实现机器学习模型的创建、训练和部署。

针对这些挑战，意法半导体提供了一整套的硬件和软件解决方案。在硬件方面，他们为客户提供了各种不同类型的硬件设备，以满足不同应用的需求。

比如意法半导体推出了集成自研NPU的STM32N6，其与合作伙伴 Lacroix 合作开发的机器学习模型进行多对象识别跟踪 AI 算法结果显示，可以达到18帧率的行人、自行车和汽车检测和跟踪，这些算法全部在NPU上执行，基于 Cortex 的主核心的负荷不到 5%。而在安全性方面，Matteo提到，产品不仅在内部集成了可信区域，还增加了安全功能外设，例如防篡改等功能。

另外，意法半导体还推出了包括集成处理单元的智能传感器以及集成神经加速器的MPU等。

Matteo表示，相比硬件，软件给开发者带来的挑战更多

在软件方面，他们提供了强大的开发工具和支持，帮助开发人员更轻松地创建、训练和部署模型，ST Edge AI 开发套件就是意法半导体集大成的平台，整合了边缘人工智能开发所需的全部工具和模块，从用模型库创建用例开始，到收集数据集，再到把模型部署到特定的硬件上，涵盖了整个开发过程。适用于包括嵌入式硬件工程师，软件工程师以及机器学习工程师在内的所有开发者。

ST Edge AI 开发套件

该套件支持广泛的深度学习框架，包括TensorFlow Lite、Keras、PyTorch 等训练的机器学习模型。与NVIDIA工具包兼容，并提供了连接到亚马逊云科技（AWS）和 微软 Azure 等云服务，兼容 MATLAB 等仿真工具。“目前边缘人工智能并没有一个统一通用的开发方法，但在开发边缘人工智能解决方案的过程中，为开发者提供指引和信息是非常重要的。因此，ST Edge AI 套件考虑到了这个因素，可以帮助用户根据自己的知识和资源找到最佳的方法和工具。我们还考虑融合和统一各种工具的用户体验，以简化人工智能库的设计流程。”Matteo说道。

Matteo表示，ST Edge AI和Nano AI Studio均免费提供给STM32的客户，同时根据特殊许可协议，其他ARM Cortex-M的微控制器也可以免费使用。

写在最后的展望

随着物联网、5G等技术的快速发展，边缘AI的应用前景将更加广阔。Matteo表示，意法半导体将继续致力于探索和创新，为未来的智能世界提供更多先进的解决方案。他们相信，通过不断的技术突破和合作创新，边缘AI将成为推动未来社会发展的重要力量。

另外，意法半导体也正在密切关注 LLM 大模型以及Transformer的发展变化，他们认为在不久的将来，市场上会出现性能类似但数据量较小的模型、Transformer 或 LLM，这可能会给边缘AI带来更新鲜的体验。

Matteo还提到存内计算及存算一体将是边缘AI发展的一个重要趋势，意法半导体正在研发这项技术，预计性能将提升到现有水平的十倍，而功耗仅有十分之一。

关于边缘人工智能可以带来的好处，Matteo总结为三类，包括性能提升，鲁棒性和适应性提升以及为终端产品增加新的特性和功能。但其也强调，AI开发人员需要彻底转变思维，从基于“如果-则-否则”（“if-then-else”）的传统算法转向专注于数据集的人工智能算法。尤其是在验证整体解决方案时需要转变思维，需要更多地关注用例的定义、数据集的创建及其验证。“通常情况下，在 AI 项目开发总体时间中，90%的时间花费在数据集创建上。创建良好的数据集与特定应用或用例密切相关。因此，我个人认为，开发者对最终用例的洞见以及与之相关的技巧将成为产品差异化的要素。”