恩智浦在eIQ AI和机器学习开发软件中增加了带有检索增强生成(RAG)与微调的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MCU)、功能更强大的大型应用处理器(MPU)等各种边缘处理器上轻松部署和使用AI
恩智浦半导体(NXP Semiconductors N.V.,纳斯达克股票代码:NXPI)近日宣布在其eIQ AI和机器学习开发软件中增加两款新工具,以便轻松在各种边缘处理器上部署和使用AI边缘。
eIQ Time Series Studio提供自动机器学习工作流程,可轻松在MCU级芯片(如MCX系列MCU产品组合或i.MX RT跨界MCU产品组合)上开发和部署基于时间序列的机器学习模型。
GenAI流程为支持生成式AI解决方案的大语言模型(LLM)提供构建模块。此类方案与MPU(如恩智浦i.MX系列应用处理器)结合使用,通过在特定上下文数据中训练LLM,简化智能边缘的部署。例如,配备LLM的电器经过用户手册训练后,能够用自然语言与用户交流,告知用户如何使用特定功能、执行特定任务或优化使用和维护。
重要意义
在边缘部署AI有诸多好处,包括降低延迟、加强用户隐私保护及减少能耗。恩智浦eIQ工具包扩展可显著简化并加速部署流程,开发人员能够访问更广泛的模型类型,包括生成式AI、基于时间序列的模型以及基于视觉的模型。此外,用户能够在各类边缘处理器上部署模型。
恩智浦半导体资深副总裁、工业和物联网总经理Charles Dachs表示:“AI是实现基于用户需求进行预测和自动化的关键,但它必须以适用于边缘部署的方式进行开发。恩智浦为MCU(如MCX系列)、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95应用处理器等更强大的设备上运行的大型生成式AI模型提供即时可用的工具,为开发人员提供了丰富的选择,涵盖各类AI模型和支持AI的边缘处理器,使得边缘AI真正适用于各行各业的应用开发人员”
更多详情
eIQ Time Series Studio可简化并加速基于时间序列的AI模型的开发与部署,支持多种输入信号(如电压、电流、温度、振动、压力、声音、飞行时间及信号组合)以及多模态传感器融合。借助自动机器学习功能,开发人员能够从原始时间序列数据中提取有意义的见解,快速构建符合性能、内存、Flash存储大小和精度要求的AI模型。该工具提供完整的开发环境,包括数据管理、可视化和分析以及模型自动生成、优化、仿真和部署。界面简洁直观,软件开发人员无需具备深厚的数据科学或AI专业知识即可创建经过优化的异常检测、分类和回归库。
恩智浦的GenAI流程使得生成式AI应用可以在边缘设备上部署。这一软件流程提供了优化生成模型的方法,并提供检索增强生成(RAG),可在不向模型或处理器提供商披露敏感信息的情况下,利用领域特定知识和私有数据以安全的方式微调模型。通过将多个模块接入单一流程,客户可根据其任务轻松定制LLM,并使用恩智浦i.MX 95应用处理器等MPU对其进行优化,以便在边缘部署。
详细了解或访问包含新增功能的eIQ机器学习开发环境,请访问NXP.com/eIQ。此外,您可以下载GenAI 流程白皮书《安全高效地在边缘部署生成式 AI:在微处理器上优化 LLM 的方法》或阅读博文《eIQ Time Series Studio简介:简化边缘 AI 开发》。
关于恩智浦半导体
恩智浦半导体NXP Semiconductors N.V.(纳斯达克股票代码:NXPI)是汽车、工业物联网、移动设备和通信基础设施市场值得信赖的合作伙伴,致力于提供创新解决方案。恩智浦汇集英才,结合前沿技术与开拓型人才,开发系统解决方案,为更智慧安全的互联世界保驾护航。恩智浦在全球30多个国家/地区设有业务机构,2023年全年营业收入达132. 8亿美元。欲了解更多信息,请登录http://www.nxp.com.cn/?cid=PR。
相关文章