Microchip与韩国智能硬件公司IHWK合作开发模拟计算平台,加速边缘AI/ML推理

发布时间:2023-09-14  

IHWK采用Microchip的memBrain™ 非易失性内存计算技术并与高校合作,为神经技术设备开发 SoC 处理器


image.png


为了适应网络边缘人工智能(AI)计算及相关推理算法的快速发展,韩国智能硬件公司(IHWK)正在为神经技术设备和现场可编程神经形态设备开发神经形态计算平台。Microchip Technology Inc.(美国微芯科技公司)通过子公司冠捷半导体(SST)参与协助开发,为该平台SuperFlash® memBrain™神经形态存储器解决方案提供评估系统。该解决方案基于Microchip经行业验证的非易失性存储器(NVM)SuperFlash技术并加以优化,可通过模拟内存计算方法为神经网络执行矢量矩阵乘法(VMM)。


memBrain技术评估工具包旨在让IHWK展示其神经形态计算平台在边缘运行推理算法的绝对能效。最终目标是为生成式人工智能模型、自动驾驶汽车、医疗诊断、语音处理、安全/监控和商用无人机等应用创建超低功耗模拟处理单元(APU)。


由于目前用于边缘推理的神经网络模型可能需要5000万或更多突触(权重)进行处理,因此纯数字解决方案需要足够带宽来使用片外DRAM,这对神经网络计算造成了瓶颈,降低了整体计算能力。相比之下,memBrain解决方案在超低功耗亚阈值模式下将突触权重存储在片上浮动栅中,并使用相同存储单元进行计算,从而显著提高了能效和降低了系统延迟。与传统数字DSP和基于SRAM/DRAM的方法相比,该方案可将每次推理决策的功耗降低到原来的1/20到1/10,并能显著降低总体物料清单。


为了开发APU,IHWK 还与位于大田的韩国科学技术院(KAIST)合作进行设备开发,并与位于首尔的延世大学(Yonsei University)合作提供设备设计协助。最终的 APU 预计将优化推理的系统级算法,并在每瓦 20-80 TeraOPS 之间运行,实现了为电池供电设备设计的内存计算解决方案的最佳性能。


Microchip技术许可业务部门SST副总裁Mark Reiten表示:“通过使用成熟的NVM而非替代性片外内存解决方案来执行神经网络计算和存储权重,Microchip的memBrain内存计算技术有望消除在网络边缘执行人工智能处理所面临的大规模数据通信瓶颈。与韩国领先的研发公司IHWK、相关高校和早期用户开展合作,进一步证明了Microchip神经处理技术的先进性,也将推动Microchip在人工智能领域的发展。”


IHWK 分公司经理Sanghoon Yoon 表示:“韩国是人工智能半导体发展的重要热点地区。我们的非易失性存储器和新兴存储器专家已经证实,Microchip基于成熟非易失性存储器技术的memBrain产品是创建内存计算系统的最佳选择。”


将神经模型永久存储在memBrain解决方案的处理元件中,还可支持用于实时神经网络处理的即时开启功能。IHWK正寻求利用SuperFlash存储器浮动栅单元的非易失性,支持低功耗边缘计算设备使用高级ML模型,建立机器学习推理的新基准。



文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>