eIQ软件升级啦！增加两款新工具，让边缘AI部署和使用更轻松

NXP管管

恩智浦在eIQ AI和机器学习开发软件中增加了带有检索增强生成（RAG）与微调的生成式人工智能（GenAI）流程和eIQ Time Series Studio，以便在小型微控制器（MCU）、功能更强大的大型应用处理器（MPU）等各种边缘处理器上轻松部署和使用AI。


恩智浦半导体宣布在其eIQ AI和机器学习开发软件中增加两款新工具，以便轻松在各种边缘处理器上部署和使用AI边缘。


eIQ Time Series Studio提供自动机器学习工作流程，可轻松在MCU级芯片（如MCX系列MCU产品组合或i.MX RT跨界MCU产品组合）上开发和部署基于时间序列的机器学习模型。


GenAI流程为支持生成式AI解决方案的大语言模型（LLM）提供构建模块。此类方案与MPU（如恩智浦i.MX系列应用处理器）结合使用，通过在特定上下文数据中训练LLM，简化智能边缘的部署。例如，配备LLM的电器经过用户手册训练后，能够用自然语言与用户交流，告知用户如何使用特定功能、执行特定任务或优化使用和维护。


重要意义
在边缘部署AI有诸多好处，包括降低延迟、加强用户隐私保护及减少能耗。恩智浦eIQ工具包扩展可显著简化并加速部署流程，开发人员能够访问更广泛的使用各类模型类型，包括生成式AI、基于时间序列的模型以及基于视觉的模型。此外，用户能够在各类边缘处理器上部署模型。


恩智浦半导体资深副总裁、工业和物联网总经理Charles Dachs表示：“AI是实现基于用户需求进行预测和自动化的关键，但它必须以适用于边缘部署的方式进行开发。恩智浦为MCU（如MCX系列）、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95应用处理器等更强大的设备上运行的大型生成式AI模型提供即时可用的工具，为开发人员提供了丰富的选择，涵盖各类AI模型和支持AI的边缘处理器，使得边缘AI真正适用于各行各业的应用开发人员”  


更多详情
eIQ Time Series Studio可简化并加速基于时间序列的AI模型的开发与部署，支持多种输入信号（如电压、电流、温度、振动、压力、声音、飞行时间及信号组合）以及多模态传感器融合。借助自动机器学习功能，开发人员能够从原始时间序列数据中提取有意义的见解，快速构建符合性能、内存、Flash存储大小和精度要求的AI模型。该工具提供完整的开发环境，包括数据管理、可视化和分析以及模型自动生成、优化、仿真和部署。界面简洁直观，软件开发人员无需具备深厚的数据科学或AI专业知识即可创建经过优化的异常检测、分类和回归库。


恩智浦的GenAI流程使得生成式AI应用可以在边缘设备上部署。这一软件流程提供了优化生成模型的方法，并提供检索增强生成（RAG），可在不向模型或处理器提供商披露敏感信息的情况下，利用领域特定知识和私有数据以安全的方式微调模型。通过将多个模块接入单一流程，客户可根据其任务轻松定制LLM，并使用恩智浦i.MX 95应用处理器等MPU对其进行优化，以便在边缘部署。


相关技术资源
详细了解包含新增功能的eIQ机器学习开发环境，点击访问>>
白皮书 |. 安全高效地在边缘部署生成式AI：在微处理器上优化LLM的方法，点击下载>>
博文 | eIQ Time Series Studio简介：简化边缘AI开发，点击阅读>>

阅读全文