AIoT概述
AIoT(Artificial Intelligence & Internet of Things)中文譯為人工智慧物聯網,是將人工智慧(AI)與物聯網(IoT)兩者有機結合的一種技術。AI在這個系統中充當了大腦的角色,賦予了物聯網更多的可能性,將萬物互聯提升到萬物智聯,如目前的智能醫護助手、人體測溫攝像頭、智能配送機器人都是在AI的加持下得以實現。
據2019年的市場調查報告顯示,2020年中國AIoT硬體市場及相關產業的規模將突破萬億元。目前AIoT的主流方案以邊緣計算和雲計算結合為主,相比之下,邊緣計算有部署靈活、穩定性強、網絡依賴度低、安全性強更有利於保護隱私的特點。作為布局AIoT的重要產品,ZLG發布了M1808 AI核心板。本文將針對M1808核心板的AI性能參數做具體講解。
M1808平臺簡介
M1808平臺是由M1808-T核心板和M1808-EV-Board評估底板組成,是基於Rockchip 的RK1808 AIoT處理器開發。RK1808處理器晶片採用CPU(Central Processing Unit,中文譯為中央處理單元)+NPU(Network Process Unit,中文譯為神經網絡處理單元)雙架構,其中CPU為1.6GHz雙核Cortex-A35架構,NPU的峰值算力高達3.0TOPs,支持INT8/INT16/FP16混合運算,最大程度兼顧性能、功耗、運算精度,支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網絡模型轉換,兼容性強。VPU視頻處理單元支持1080P視頻編解碼,支持麥克風陣列,並具有硬體VAD功能,支持低功耗偵聽遠場喚醒,還支持攝像頭視頻信號輸入,並具有內置ISP。M1808平臺具有高性能、低功耗、易編程、集成NPU等特點。
AIoT硬體平臺AI性能對比
算力和功耗是衡量硬體平臺AI性能的重要參數。為了充分驗證M1808的高性能、低功耗特點,表格1提供了M1808與其他產品的AI性能參數對比。通過對比可知,M1808 AI核心板能夠最大程度的兼顧算力與功耗。這也使其在AIoT硬體平臺上具有領先地位。
表格 1
常見AI功能的算力花銷
考慮到讀者對3.0 TOPs的算力很難有一個清晰的概念,在表格2中我們列出了常見AI功能所需要的算力花銷:
表格 2
由表格可知,除了自動駕駛這種多模型融合、實際場景十分複雜多變的情形,大部分單一功能的實現所需的算力要求在1TOPS這個數量級。M1808作為目前具有代表性的嵌入式AI平臺,具備了3.0 TOPs的基礎算力,基本可以滿足大部分場景的使用,如人臉門禁、掃臉支付、智能餐桌等。此外,如果對照片處理的實時性要求不高,比如山火識別,面對這種對網絡模型的查全率要求很高的場景,就可以使用上結構更深的模型,來達到精度更高的效果。
神經網絡推理速度
為了更直觀地認識M1808的AI計算能力,在圖表1中,我們分別在三種相同的神經網絡模型下,對比M1808與常見手機晶片的網絡神經網絡運行時間。運行時間的長短可以反應出硬體平臺AI計算能力。可以看到,對比當今主流的手機晶片,M1808的AI算力也毫不遜色,足以滿足大部分AI功能需求。
圖表 1
軟體層面
除了提供強大的AI算力,M1808也提供了對應的AI開發套件來支持研發人員的開發工作。目前M1808的套件支持主流的tensorflow、tensroflow lite、caffe、darknet、onnx、pytorch等框架訓練的模型,可以對其進行模型轉換以便將模型部署到開發板上,我們還提供了自動量化及模型運行效率的評估功能,減少模型適配的工作量。
同時,M1808也提供了一些常用的AI模型可供開發人員調用,目前支持以下功能:人臉識別,司機疲勞駕駛檢測系統,人臉關鍵點定位,人臉檢測,物體檢測,物體分類,紐扣方向的功能。目前的人臉識別精度在lfw上達到了99.7%,一萬人臉庫的情景下達到每秒10幀左右,支持年齡跨度、人臉部分遮擋和摘戴眼鏡等戶外及室內場景,更多的功能正在開發測試完善中,敬請期待。
以上即為M1808的算法算力性能介紹,大家是會能夠真切的感受到這款AI核心板的性能呢?若是想了解我司基於M1808提供的算法可查閱往期文章《立功科技嵌入式平臺「軟」實力——人臉識別算法篇》,若是再想更近距離的感受M1808性能的強大,歡迎諮詢小致,可有機會實際感受M1808 AI核心板的強勁性能。
M1808 AI核心板硬體性能
近年來,隨著人工智慧技術的不斷發展,相應的AI算法與產品方案也層出不窮。但是技術門檻高,產品穩定性參差不齊成為了制約行業發展的主要瓶頸。M1808 AI核心板是ZLG布局AI及計算機視覺領域的重要產品,旨在為用戶提供「嵌入式」+「AI」解決方案平臺,以AI算法賦能傳統嵌入式硬體,除了提供穩定可靠的硬體平臺之外,同時免費提供基於各種應用數據集訓練的AI算法,極大降低了「嵌入式」和「AI」的開發門檻。
在當前熱門的人臉識別領域,ZlG將人臉識別算法免費植入M1808 AI核心板中,為用戶提供「硬體+軟體+算法」系統化解決方案。這一方案既能夠滿足客戶快速開發的需求,又能最大程度保證驗證結果的精準度,可廣泛應用於火車站、安檢卡口、校園、小區、寫字樓等出入管理場景。
本文將從主控平臺,配套硬體以及檢測Demo這三個方面對ZLG人臉識別解決方案做具體介紹。
主控平臺
人臉識別的應用領域廣泛,但解決方案的框架大體類似。ZLG緊跟行業發展,歸納出如下圖所示人臉識別方案的框圖。
由框圖可知,主控平臺選擇ZLG最新推出的M1808 AI核心板。作為一款面向人工智慧開發平臺的產品,M1808在視覺處理方面有著高運算速率、高運算精度以及低功耗的高性能表現。
圖1.2 M1808核心板產品
如上圖所示,M1808 AI核心板板載1.6GHz雙核64位Cortex-A35架構的處理器RK1808,集成NPU峰值算力可達3.0TOPs,支持INT8/INT16/FP16混合運算,最大程度兼顧性能、功耗、運算精度,並支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網絡模型轉換,兼容性強。其VPU視頻處理單元支持全格式的1080P視頻編解碼,支持攝像頭視頻信號輸入,並具有內置ISP。如圖1.3所示為RK1808晶片功能方框圖。
圖1.3 處理器RK1808功能方框圖
核心板整體功能特點一覽:
MPU採用高性能64位的Cortex™-A35處理器RK1808,工作頻率可達1.6GHz;
集成 32KByte 一級指令緩存;集成 32KByte 一級數據緩存;
集成NPU(神經網絡處理單元)協處理器;
支持最大1920 Int8 MAC operations per cycle;
支持最大64 FP16 MAC operations per cycle;
支持最大192 Int16 MAC operations per cycle;
512Kbyte內部緩衝空間;
支持支持全格式的H.264 1080p@60fps解碼和H.264 1080p@30fps編碼;
集成高品質的JPEG編/解碼器;
內存:1GByte DDR4 SDRAM;
存儲:4GByte eMMC;
Linux作業系統。
如圖1.4所示為M1808_EV_Board評估板產品圖片。
圖1.4 M1808_EV_Board評估板產品
配套硬體
圖像數據採集方面,M1808_EV_Board評估板為開發用戶提供了1路CSI攝像頭接口和1路可擴展USB接口。人臉檢測識別方案可以選用USB接口的雙目攝像頭,以支持具有活體檢測功能的人臉識別算法庫。雙目攝像頭如圖1.5所示。
圖1.5 雙目攝像頭
圖像顯示方面,M1808評估板為用戶提供MIPI-DSI接口和RGB接口兩種液晶顯示接口。本文介紹的人臉識別Demo運行顯示是採用一款由ZLG生產的10.1寸LVDS接口的液晶顯示屏LCD-1280800W101TC,如圖1.6所示。攝像頭採集的人臉將會以實時方框形式在液晶屏上標記顯示。
圖1.6 LCD-1280800W101TC 10.1寸LVDS液晶顯示屏套件
人臉識別檢測Demo
開發環境搭建
將M1808平臺的交叉編譯工具m1808-sdk-1.0-ga.tar.gz拷貝至開發主機Ubuntu下,並執行如下命令解壓安裝:
$ sudo mkdir -p /opt/zlg
$ sudo tar -xf m1808-sdk-1.0-ga.tar.gz –C /opt/zlg
在用戶配置文件~/.bashrc中添加如下語句,保存後重新打開終端就可以直接使用該平臺工具鏈,完成工具鏈環境搭建:
$ export PATH=/opt/zlg/m1808-sdk-1.0-ga/host/bin:$PATH
Demo程序
Demo採用Qt圖形界面開發框架。在工程文件中添加OpenCV庫、Sqlite3庫和由ZLG算法團隊研發的人臉識別算法庫等相關庫,之後內部程序通過調用相關庫提供的各種接口,包括數據存儲、模型構建初始化、人臉檢測、人臉比對等API進行相關人臉檢測識別功能的實現。
例如有關人臉檢測功能實現,先定義rockx_handle_t類型的句柄,通過操作該句柄調用如下API完成指定功能模塊的初始化:
rockx_ret_t rockx_create(rockx_handle_t* handle,rockx_module_t m,void* config,size_t config_size);
再調用人臉檢測API實現人臉檢測功能:
rockx_ret_t rockx_face_detect(rockx_handle_t handle,rockx_image_t* in_img,rockx_object_array_t* face_array,rockx_async_callback callback);
Demo整體流程框圖如下圖1.7所示:
圖1.7 Demo程序流程圖
Demo效果
實際檢測的人臉以綠色選框標記出來,Demo運行顯示效果展示如圖1.8所示:
圖1.8 Demo展示效果
M1808 AI核心板在不同維度的卓越硬體功能,使其具備了成為
[
1] [
2]
推薦閱讀
; 2. 5G-人工智慧下的嵌入式機會 隨著科技的進步, 某些單一重複的工作將逐漸被人工智慧取而代之,比如售票員。現在來看各大晶片廠商開始向人工智慧、邊緣計算發力,5G這個能讓數據飛起來的快車道,能夠有效促進端點信息採集設備的研發。可以預見的是,5G 時代,嵌入式AI類產品也會得到長足發展,最終實現5G+AI+嵌入式的系統化整合。 3. M1808-讓5G
發表於 2020-11-04