恩智浦在其 eIQ AI 和機器學習開發軟體新增具有檢索增強生成微調功能的 GenAI Flow 和 eIQ Time Series Studio,以便在小型微控制器到功能更強大的大型應用處理器等各種邊緣處理器部署和使用人工智慧。
恩智浦新增兩款新工具
eIQ Time Series Studio 簡化並加速 AI 模型的開發與部署
eIQ Time Series Studio 提供自動化機器學習工作流程,可在如 MCX 系列 MCU 產品組合或 i.MX RT 跨界 MCU 產品組合等 MCU 級裝置,開發和部署基於時間序列的機器學習模型。
eIQ Time Series Studio 簡化並加速基於時間序列的 AI 模型的開發與部署,支援多種輸入訊號,包括電壓、電流、溫度、振動、壓力、聲音、飛行時間等,以及用於多模態感測器融合的訊號組合。借助自動機器學習功能,開發人員能夠從原始時間序列資料中提取有意義的洞察,快速建立可以滿足效能、記憶體、快閃記憶體大小和準確性標準而客製化的 AI 模型。該工具提供完整的開發環境,包括資料管理、視覺化和分析、以及模型自動生成、最佳化、模擬和部署。
GenAI Flow 讓生成式 AI 應用可以在邊緣裝置上運行
GenAI Flow 為支援生成式 AI 解決方案的大型語言模型提供建構模組。此類生成式 AI 解決方案旨在與恩智浦 i.MX 系列應用處理器 MPU 配合使用,透過在特定情境資料中訓練 LLM,可以更輕鬆地在邊緣部署智慧應用。例如,配備 LLM 的電器經過用戶手冊訓練後,能夠用自然語言與使用者交流,告知用戶如何使用特定功能、執行特定任務或最佳化使用和維護。
此軟體流程提供了最佳化 LLM 等生成模型的方法。GenAI Flow 並提供檢索增強生成,能夠在不對模型或處理器供應商透露敏感資訊的情況下,運用特定領域知識和私有資料以安全的方式微調模型。透過將多個模組連結至單一流程,客戶可根據其任務輕鬆定制 LLM,並使用恩智浦 i.MX 95 應用處理器等 MPU 進行最佳化,以便在邊緣部署。
涵蓋各類 AI 模型和支援 AI 的邊緣處理器
在邊緣部署 AI 帶來眾多優勢,包括降低延遲、加強用戶隱私保護及減少能耗。恩智浦 eIQ 工具套件的擴展能顯著簡化並加速部署流程,幫助開發人員能夠存取更廣泛的模型類型,包括生成式 AI、基於時間序列的模型、以及基於視覺的模型。此外,用戶能夠在各類邊緣處理器上部署模型。
恩智浦半導體資深副總裁暨工業與物聯網事業部總經理 Charles Dachs 表示,AI 是實現根據使用者需求預測和自動化的關鍵,但必須以適合邊緣部署的方式進行開發。「恩智浦提供即用型工具,適用於 MCX 系列等 MCU 以及 i.MX RT700 等跨界 MCU 的小型 AI 模型,以及在 i.MX 95 應用處理器等功能更強大裝置運行的大型生成式 AI 模型,為開發人員提供豐富的選擇。」
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!