嵌入式芯片组供应商越来越关注用于物联网(IoT)应用的神经处理单元(NPU),这要归功于该架构对神经网络工作负载的高效执行。随着使用者在远端寻求更大的洞察力和智能,NPU将以牺牲现有微控制器(MCU)为代价,占据整体出货量越来越大的份额。据ABI Research数据,到2030年,用于物联网应用的人工智能专用芯片的芯片组收入将超过73亿美元。
“个人和工作设备(PWD)中用于TinyML应用的NPU已经很成熟。然而,它们在这个设备垂直领域之外仍处于起步阶段,主要供应商如意法半导体、英飞凌和恩智浦半导体,才刚刚将这种类型的ASIC引入其嵌入式产品组合,”ABI Research的行业分析师Paul Schell说,“通过筛选PWD,我们对物联网应用的建模提供了更深入的了解,这些应用涵盖了15个垂直领域,包括最重要的智能家居和制造业。”
在软件方面,全面的MLOps工具链现在已成为大大小小的供应商的“必争之地”,包括Syntiant、GreenWaves、Aspinity和Innatera等初创公司。对于更大的外形尺寸,对软件产品的投资通常与硬件研发相匹配,供应商Eta Compute与NXP合作,获得了其Aptos软件平台的许可。这些创新还通过减少对内部数据科学人才的需求,使TinyML的部署更加民主化。
将高性能架构(如NPU和一些FPGA)纳入嵌入式设备,将扩展在设备上运行的应用程序的范围,从对象检测到机器视觉用例的简单对象分类,以及用于基于音频分析的一些NLP。“随着PC和网关等更大边缘形式因素的趋势,这将通过降低网络成本和对云的依赖,有助于人工智能的可扩展性。因此,我们预计TinyML市场将随着这些创新而增长,主要受到主要工业基地升级其物联网部署、车辆日益智能化和智能家居设备的推动。”