打从2022年11月ChatGPT开放公众使用后,随即掀起一股大型语言模型(Large Language Model, LLM)风潮,乃至生成式人工智能(Generative Artificial Intelligence, GenAI)风潮,不过AI似乎有极大化与极小化的两线发展,小型化发展即是以AIoT为起点开始衍生出Edge AI、等,特别是,必须在有限的运算力、电力、成本、体积下实现AI,极具工程精进挑战。
对此有一名IoT开发工程师Jon Nordby发起一个案子,期望实现只需1美元(以料件成本而言)的,以此刷新TinyML的低成本纪录,项目名称姑且就叫1 dollar TinyML。
图一 : 目标只要1美元成本就能实现的TinyML电路板(图片来源:Jon Nordby)
硬件组成分析
目前这个项目的第一版(Revision 1)电路设计中有一颗PY32F003主控芯片,为上海普冉(Puya)半导体公司出品,其核心为Cortex-M0+;然后有一颗我国盛群半导体(Holtek)的BC7161芯片,该芯片是一颗蓝牙Beacon发送器芯片。有趣的是,主控芯片约是15美分,蓝牙发送器芯片则是20美分,比主控芯片还贵一些。
电路的核心由这两颗芯片所构成,Jon Nordby以此为基础分别提出两个板子的构想,一是动作传感器电路板,另一是声音传感器电路板,前者在两颗芯片外再搭配STMicro(意法半导体)的LIS2DH(或LIS3DH)加速度传感器(accelerator);后者没有加速度传感器,改配置一个麦克风并搭配若干运算放大器(opamp)。
同样有趣的,加速度传感器与麦克风都是运用微机电系统(MEMS)技术制做而成,但加速度传感器用的是数字技术,麦克风用的则是模拟(analog)技术。
至于传感器的成本,加速度传感器约30美分,比主控芯片、发送器芯片都贵一些;麦克风与运算放大器等则为20美分,与发送器价格相当,但也是比主控芯片略贵。
两片传感器板子在感测上的配置不同外,其他方面大体相同,例如都有R红、G绿、B蓝、W白颜色的LED灯号;都有SPI接口的NOR型Flash闪存以便用来储存主控芯片的控制程序(韧体);都有都使用锂电池(例如LIR1220型钮扣电池)运作,或可以用USB Type A供电运作,以及用其给锂电池充电等。
到这里简单估算一下成本,加速度传感器板15+20+30约65美分,声音传感器板15+20+20约55美分,其他林林总总考虑进去仍可能压在90美分左右,而发起人Jon Nordby表示只要产制个几百片,就有可能让每片低于1美元,如果不要电池或传感器等则可能再低一些。
图二 : 1 dollar TinyML板的构成组件(图片来源:Jon Nordby)
图三 : 1 dollar TinyML板雏型品的打造与测试(图片来源:Jon Nordby)
谈完硬件后其实也要谈软件,1 dollar TinyML直接兼容emlearn,这是给微控制器或嵌入式系统使用的一套机器学习软件,开发者可以在一般中大型系统上使用Python程序语言来训练模型,最后将模型放到微控器(Microcontroller)里去进行推论,只要该微控器能支持C99标准的编译程序(Compiler)即可。C99是指1999年的国际标准ISO/IEC 9899,属C语言标准。
小结
回到约十年前,2014年ESP8266芯片(属Espressif上海乐鑫科技)开始走红,走红的原因主要有二,一是网友贡献程序,使该芯片能直接用Arduino IDE进行开发,让多数只会使用Arduino的创客也能用ESP8266;二是ESP8266芯片实现成的系统电路板也只要5美元,当时便宜到让人不可思议。
也因为ESP8266的走红,之后在2016年才有ESP32芯片接替ESP8266,而后一路开展出各种ESP32系列芯片,甚至被Arduino官方用于新的正式电路板中。
循上述模式,标榜只要1美元的TinyML板或许也会引起一波旋风,毕竟平价是难以抗拒的吸引力,不过也有其他低价项目正在酝酿中,如BitNetMCU 框架,该框架使用CH32V003芯片,芯片一样只有15美分,且核心为免授权成本的RISC-V核心,这类的超平价TinyML方案是否能引起大众关注与响应,可能还有待时间考验。
延伸阅读
[1] 1 dollar TinyML专案(GitHub):https://github.com/jonnor/embeddedml/tree/master/projects/dollar_tinyml
[2] 1 dollar TinyML专案(Hackaday):https://hackaday.io/project/194511-1-dollar-tinyml
emlearn:https://github.com/emlearn/emlearn