恩智浦与NVIDIA合作,将TAO工具套件集成到恩智浦边缘设备,加速人工智能部署

2024-03-21  

恩智浦与NVIDIA合作,将TAO工具套件集成到恩智浦边缘设备,加速人工智能部署

 

●恩智浦是首家将NVIDIA TAO工具套件API直接集成到其人工智能产品(eIQ机器学习开发环境)中的半导体供应商 

●将NVIDIA经过训练的人工智能模型部署在恩智浦边缘处理设备中

●简化在边缘部署经过训练的人工智能模型的过程,加速人工智能的开发


image.png


荷兰埃因霍温——2024年3月21日——恩智浦半导体(NXP Semiconductors N.V.,)日前于NVIDIA GTC宣布与NVIDIA合作,将NVIDIA经过训练的人工智能模型通过eIQ®机器学习开发环境部署到恩智浦广泛的边缘处理产品组合中。NVIDIA TAO工具套件功能与恩智浦eIQ机器学习开发环境的集成令业内振奋,开发人员能够在竞争日益激烈的人工智能领域中实现加速开发。恩智浦是首家将NVIDIA TAO API直接集成到其人工智能产品中的半导体供应商,以帮助开发人员更轻松地在边缘部署经过训练的人工智能模型。


简化人工智能模型的训练和部署是当今人工智能领域开发人员面临的重大挑战之一。为了应对这一挑战,恩智浦与NVIDIA合作,将NVIDIA TAO API直接集成到恩智浦的eIQ机器学习开发环境中。NVIDIA TAO低代码人工智能框架通过迁移学习,让开发人员能够更轻松地利用经过训练的人工智能模型,并针对特定用途对模型进行微调和优化,与此同时,恩智浦eIQ开发环境通过集成软件、推理引擎、神经网络编译器以及优化过的库,简化了将模型部署到边缘的过程。通过本次技术整合,客户能够从多方面受益,包括加速人工智能开发进程、访问经预先测试的人工智能模型库以及将人工智能模型部署到恩智浦广泛的边缘处理器产品组合中。


恩智浦半导体资深副总裁兼工业和物联网边缘总经理Charles Dachs表示:“人工智能创新将决定智能互联世界的未来。恩智浦在工业和物联网边缘创新领域拥有丰富的经验,而NVIDIA则在训练与测试人工智能模型方面具有专业优势,两者结合产生的协同效应能够帮助我们的客户更加快速、轻松地将其人工智能模型推向市场。”


NVIDIA机器人和边缘计算副总裁Deepu Talla表示:“NVIDIA TAO可大幅度简化人工智能模型的创建和部署,包括先进的生成式人工智能模型。此次合作,通过利用NVIDIA TAO调整的高度精确且经优化的人工智能模型,以及将模型无缝集成到恩智浦eIQ开发环境中,能够加速实现边缘人工智能部署。”


借助恩智浦eIQ机器学习软件开发环境,用户可在恩智浦广泛的微控制器和微处理器产品组合中利用人工智能算法。eIQ机器学习软件已完全集成到恩智浦的MCUXpresso SDK和Yocto Project Linux开发环境中,开发人员可轻松开发完整的系统级应用。


eIQ机器学习开发环境将直接集成NVIDIA TAO API,为人工智能模型的训练、优化和部署提供统一平台。NVIDIA TAO提供基于API的工作流程,利用了一系列预先训练的模型和迁移学习,允许用户自定义构建人工智能模型。NVIDIA TAO还可提供多项优化(例如模型剪枝),提高推理吞吐量。 


有关此次合作如何加速开发并允许NVIDIA的预先训练的模型在恩智浦SoC(例如i.MX 93应用处理器)的神经处理单元(NPU)上运行的更多信息,请访问nxp.com/eIQ


文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。