Jetson Orin Nano開發套件動手玩（二）：效能實測

筆者將繼續在這篇文章中，針對Jetson Orin Nano開發套件的AI推論效能進行測試，並展示PeopleNet人物辨識模型的運作狀況。

6種模型效能實測

首先我們先看執行NVIDIA提供的Jetson Orin Nano效能測試工具，利用下列6種模型進行AI推論並測量效能表現。

AI推論測試項目
1. PeopleNet：辨識並標示影片中的人物
2. ActionRecognitionNet 2D：辨識影片中人物的動作（2D模型）
3. ActionRecognitionNet 3D：辨識影片中人物的動作（3D模型）
4. DashCamNet：辨識並標示影片中的汽車、人、路標和自行車。
5. BodyPoseNet：辨識影片中人物的骨架與18個關鍵點
6. LPRNet：辨識影片中的車牌

不過需要注意的是，由於測試用的腳本、Tensor RT模型引擎是針對Jetson Orin Nano所準備，無法使用於其他Jetson機種，因此這邊就不列出其他機種的對照數據。

▲ NVIDIA提供的Jetson Orin Nano效能參考數據。

▲ 筆者也實地於Jetson Orin Nano開發套件執行測試工具。

▲ 測試所得到的效能表現與官方數據相當接近。

本機執行PeopleNet

Jetson Orin Nano是款有能力進行邊緣AI運算的平台，因此筆者使用NVIDIA官方提供的PeopleNet人物辨識模型進行展示。

PeopleNet能夠針測畫面中的人物、臉部、包包等特徵，並將針測到的特徵以方框標示。筆者將於下列展示中，直接於Jetson Orin Nano開發套件上進行運算與辨識，但是因為不方便於開發套件上架設攝影機，因此改以NVIDIA提供的預錄影片進行替代監視攝影機拍攝的即時畫面，模擬利用Jetson Orin Nano打造智慧型監視器的應用情境。

另一方面，筆者也錄下《真‧三國無雙2》的遊戲畫面，將影片送至Jetson Orin Nano開發套件辨識，看看效果如何。

▲NVIDIA提供的預錄影片能夠模擬商店中監視器拍到的畫面，可以看到人物都被方框標示，並於標籤顯示「Person」。

▲PeopleNet也能辨識《真‧三國無雙2》遊戲畫面內的人物，而且準確度還蠻高的。需要注意的是，Jetson Orin Nano在AI推論過程造成影片播放較慢的狀況，原始影片為全速執行遊戲，並無拖慢狀況。

搭配Omniverse Replicator、TAO強化訓練效果

最後筆者也參考NVIDIA官方提供的程式，模擬將Jetson Orin Nano打造為自走車型的機器人，並透過攝影機辨識環境中人員的腳。

首先我們先透過原始AI模型進行辨識，接著利用以Omniverse Replicator建立的3D影片加強Isaac Sim的影像辨識訓練，並透過TAO工具套件對AI模型進行最佳化，再以強化訓練過的AI模型。

這樣的好處是開發人員能夠透過合成的3D影片進行強化訓練，在省下拍攝訓練用影片的時間，也能提高辨識的準確度，讓Jetson Orin Nano能夠更加準確地辨識人員的腳。

▲ 這個段落中我們會使用3種不同工具強化AI模型的訓練，最終利用訓練好的AI模型進行推論。

▲ 首先我們需要在效能較強的電腦環境下產生3D並訓練AI模型。

▲ 接著把產生的AI模型複製到Jetson Orin Nano進行AI推論。

▲影片中左上的小視窗為模擬將自走車拍攝的畫面，以及用紅色標示人員的腳。使用原始AI模型進行影像辨識的AI推論的準確度比較低，有些區域並無正確被標示。

▲使用在電腦中進行強化訓練的優勢為不用花時間拍攝訓練用影片，就能提升辨識效果。可以看到能更完整標售出人員的腳。

▲ 最後，「那個程式」是在Jetson Orin Nano開發套件上面跑起來了啦，但是還有些問題要解決。

在看完了Jetson Orin Nano開發套件的正經應用之後，考量到它的處理器與GPU效能比Jetson Nano提升許多，不免手癢裝了一下RetroArch，但還需要進行一些調整並自行編譯核心檔案，若一切順利的話，則將於日後更新「One More Thing」。

系列文章
NVIDIA推出Jetson Orin Nano開發套件，大幅提升AI入門裝置效能
Jetson Orin Nano開發套件動手玩（一）：規格介紹與開箱
Jetson Orin Nano開發套件動手玩（二）：效能實測（本文）