我国科研团队研发出一种基于神经调制依赖可塑性的新型类脑学习方法(NACA),可有效解决目前人工神经网络中普遍存在的“灾难性遗忘”问题,有望进一步引导新型类脑芯片的设计。相关成果日前在国际学术期刊《科学进展》在线发表。
NACA计算模型。(中国科学院自动化研究所供图)
文章第一作者、中国科学院自动化研究所副研究员张铁林介绍,人工神经网络由于采用反向传播(BP)等人工学习方法,可能会导致人工智能系统在学习新任务或适应新环境时,丧失了以前习得的一些能力,这种现象被称为“灾难性遗忘”,会对人工智能系统稳定运行产生不利影响。为此,人工智能迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制。
据介绍,生物系统中常见的多巴胺、血清素等神经调质物,往往经由特定的腺体释放,并远程弥散、投射到一定范围内的目标神经元群体,且根据调质浓度水平的不同,对局部的神经元可塑性、突触可塑性等产生多种复杂的调制影响。
人脑中的神经调制。(中国科学院自动化研究所供图)
此项研究中,科研团队在上述生物神经调制机制的启发下,整合得到NACA。科研团队随后在典型的图片和语音模式识别任务中对该新型类脑学习方法进行了评估,评估结果显示,其与传统算法相比,具有更低的能耗,且可以极大地缓解“灾难性遗忘”问题。
“该新型类脑学习方法是一类生物合理的全局优化算法,具备纯前馈学习、低训练能耗、支持动态连续学习等特征,有望进一步引导新型类脑芯片的设计。”文章通讯作者、中国科学院自动化研究所研究员徐波说。