ADVERTISEMENT
最近,美國人工智慧晶片初創公司 Syntiant 公佈了一款超低功耗晶片,可以在 1mW 的功耗下玩《毀滅戰士》。
一個 1 毫瓦的機器學習晶片可以做很多事情,不過像玩《毀滅戰士》(Doom)這樣充滿想像力的做法卻很少見。
最近幾日,在舊金山舉行的 2023 IEEE ISSCC(International Solid State Circuits Conference)大會上,總部位於加州歐文的 AI 晶片初創公司 Syntiant 詳細介紹了他們的產品 NDP200—— 一款超低功耗晶片,主要用來運行監控影片的神經網路,並在發現重要事件時喚醒其他系統。
如下為 NDP200(Neural Decision Processor)玩《毀滅戰士》的展示影片。
如何做到的呢?
Syntiant 使用了基於 Doom 的 AI 研究平臺 VizDoom,這在 AI 研究中很受歡迎。團隊使用強化學習來訓練多層神經網路,其中第一層負責理解網路看到的內容,而最後一層負責採取回應行動。整體來說,這個網路由大約 60 萬個參數組成。雖然沒有 ChatGPT 所需的億級規模參數,但仍然要比監聽「OK, Google」這類關鍵短語所需的 10000 個參數強大得多。NDP200 有 640 kilobytes 的板載記憶體用於神經網路參數。
如上展示的片段中的遊戲關卡叫做「保衛圓圈」,它讓玩家在一個圓形房間內移動,射擊面前的怪物。IEEE Fellow、前 Syntiant 高級工程師副總裁 David Garrett 表示,在訓練中,神經網路必須首先辨識怪物,然後學習射擊它們。在第一次殺死獵物後,系統會卸載 clip(可以理解為一種檔案類型),但後來發現這不是一個好辦法。因此,系統很快就學會了節省彈藥。
儘管《毀滅戰士》的示範非常精彩,但 NDP200 還有更多實際用途。Garrett 指出,它有能力進行人體輪廓檢測,這是一項通常由更強大的處理器完成的關鍵任務。Syntiant 晶片可以運行人體檢測,作為家庭或汽車安全系統的節能步驟。
為了展示其能源效率,Syntiant 將 NDP200 與基於 Arm Cortex A53 的處理器進行了比較,該處理器運行了 20 萬個參數版本的 MobileNetV1,這是 MLPerf 用來判斷系統對視覺喚醒詞回應情況的測試。NDP200 每次掃描圖像只使用 166 微焦耳,大約是 Arm 處理器的 1/100。因此,Syntiant 晶片每秒可以掃描 6 格影片,而耗電量為 1 毫瓦。
這款晶片並沒有那麼神秘,它有一條定制的路徑,資料在晶片的神經決策處理器中流動。據 Garett 介紹,它盡可能充分利用了晶片的乘法累加單元,即機器學習計算的核心,將高達每秒 9 gigabytes 的資料頻寬傳輸到神經核心。
Garrett 不願透露 Syntiant 下一步的技術發展,但他表示會有更多有趣的應用。他說:50 萬個參數足夠做出真正的好東西了。
資料來源:
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!