2.3T算力，真的強！1分鐘學會NPU開發(fā)，基于NXP i.MX 8MP平臺！-技術(shù)文章-Tronlong●創(chuàng)龍科技

創(chuàng)龍首頁 >關(guān)于創(chuàng)龍 > 新聞資訊 > 技術(shù)文章

關(guān)于創(chuàng)龍
About Us

聯(lián)系我們
Contact Us

公司總機：020-8998-6280

技術(shù)熱線：020-3893-9734

技術(shù)郵箱：support@tronlong.com

銷售郵箱：sales@tronlong.com

|公司新聞|行業(yè)新聞|技術(shù)文章

2.3T算力，真的強！1分鐘學會NPU開發(fā)，基于NXP i.MX 8MP平臺！

2024/12/16

科技飛速發(fā)展，人工智能與工業(yè)領域的融合日益深入。NXP旗下的i.MX 8M Plus作為一款高端工業(yè)處理器，NPU算力高達2.3TOPS，正引領著工業(yè)智能化的浪潮，為眾多工業(yè)場景帶來了前所未有的變革潛力。

圖 1

i.MX 8M Plus NPU特性

i.MX 8M Plus的NPU支持INT16/INT32/FP16/FP32等多種數(shù)據(jù)類型，兼容性卓越，與TensorFlow Lite/Arm NN/ONNX Runtime/DeepViewRT等框架無縫對接。這一特性，為開發(fā)者們打造了一個極為豐富的工具和庫生態(tài)系統(tǒng)，更便利進行模型開發(fā)與訓練工作，輕松應對各種復雜的大數(shù)據(jù)運算場景，無論是海量工業(yè)數(shù)據(jù)的分析處理，還是精準智能決策的模型構(gòu)建，更加游刃有余。

i.MX 8M Plus NPU開發(fā)流程

第一步：模型開發(fā)

首先，從TensorFlow預訓練模型庫中選擇一個合適的模型，或根據(jù)具體任務需求創(chuàng)建自定義模型。然后，收集和準備訓練數(shù)據(jù)集。

第二步：模型訓練

可通過eIQ Toolkit工具調(diào)整參數(shù)（如Weight initialization、Input size、Learning rate等）優(yōu)化模型性能，配置訓練參數(shù)后，開始模型訓練。

第三步：模型量化

可通過量化一個訓練后的模型，減少其大小，并加快在NPU上的推理時間，實現(xiàn)最小的精度損失。

圖 2 開發(fā)流程示意圖

i.MX 8M Plus 典型工業(yè)應用

圖 3

NPU開發(fā)案例演示

本文主要介紹基于i.MX 8M Plus的NPU開發(fā)案例，適用開發(fā)環(huán)境如下。

Windows開發(fā)環(huán)境：Windows 7 64bit、Windows 10 64bit

虛擬機：VMware15.5.5

開發(fā)環(huán)境：Ubuntu20.04.6 64bit

U-Boot：U-Boot-2022.04

Kernel：Linux-5.15.71-rt51

LinuxSDK：Real-Time Edge Software 2.5

硬件平臺：創(chuàng)龍科技TLIMX8MP-EVM工業(yè)評估板（基于i.MX 8M Plus）

為了簡化描述，本文僅摘錄部分方案功能描述與測試結(jié)果，詳細產(chǎn)品資料請掃描文末二維碼下載。

案例說明

案例基于預訓練的TensorFlow Lite模型實現(xiàn)對圖片中目標對象的分類。TensorFlow Lite模型循環(huán)測試10次，統(tǒng)計出推理的平均處理耗時和幀率，獲取模型輸出的前五個標簽及置信度打印至串口終端并通過HDMI顯示屏繪制標簽及置信度概率最大的對象結(jié)果。

程序處理流程圖如下：

圖 4

案例演示

通過網(wǎng)線將評估板千兆網(wǎng)口ETH0連接至路由器，將HDMI顯示器與評估板HDMI2 OUT接口(CON22)連接。

圖 5

在可執(zhí)行文件所在目錄，執(zhí)行如下命令，對圖片目標對象進行推理。

Target#./mobilenetv1_label_image -m mobilenet_v1_1.0_224_quant.tflite -y ./bmp_image -l labels.txt -c 10 --external_delegate_path=/usr/lib/libvx_delegate.so