近日,OPEN AI LAB 邊緣AI推理框架Tengine新增發布對多款主流96Boards.ai平臺的支持,包括Rock960(RK3399),HiKey970(HiSilicon Kirin 970 SoC), Qualcomm® Robotics RB3 Development Platform(Qualcomm SDA845 processor),Thor96 Board(NXP i.MX 8M SoC)。本次發布預示著Tengine+96Boards開源軟硬體強強聯合,將極大促進AI領域的技術發展與產品應用的加速發展,開啟了AI開源生態的重要篇章!
本次合作,我們評測了Tengine在96 Boards的幾個平臺的推理性能,為了驗證Tengine可以在96 Boards平臺上能夠更快地進行AI應用開發,我們移植了一套人臉檢測與關鍵點的Demo,從評估來看,可以達到基本的商業落地要求。
Tengine最新的開源版本地址:
https://github.com/OAID/TengineTengine適配移植上去後,
Tengine Demo的展示效果如下:
Tengine是OPEN AI LAB擁有自主智慧財產權的邊緣人工智慧推理框架,致力於解決AIoT產業所面臨的碎片化問題,加速AI的部署和普及,惠及千行百業。
Tengine擁有強有力的技術支撐,核心開發團隊由來自 Arm、Intel、博通、華為以及Linaro 96Boards等國際化專業人才組成,對晶片和嵌入式系統、深度學習和邊緣計算等領域有深刻的理解。
(https://github.com/OAID/Tengine)開源,開始為海量AIoT應用和設備提供高性能的AI推理支持。一方面Tengine可通過異構計算技術同時調用CPU、GPU、DSP、NPU 等不同計算單元來完成深度學習網絡推理運算,另一方面,它和TensorFlow、Pytorch、Caffe、MXNet 等訓練框架相互配合,實現主流訓練框架模型格式的全兼容。值得一提的是Tengine是國際上為數不多的通過ONNX官方認證的推理框架之一。
Tengine作為高效的深度學習推理引擎和AIoT開發平臺,還可根據企業需求提供定製化商業服務,從而更好地賦能人工智慧上下遊企業。
96Boards.ai通過CPU、GPU、DSP、FPGA、ASIC等多種計算單元實現了多個人工智慧計算平臺的神經計算加速。通過利用96Boards開放平臺,OPEN AI LAB將進一步加速一系列Soc上的AI產品創新。
本次合作的初衷是為了給開發者提供一個便捷的軟硬體一體的AI開發平臺,並且有良好的AI軟體支持和Tengine AI開源社區的支撐,從而使工程師們能夠零門檻的進行AI應用開發,並可以大大的縮短產品開發周期。
早在2018年的時候,Tengine便已發布對多款主流96Boards.ai平臺的支持,原文如下
https://www.96boards.org/blog/tengine-0.5-support-for-96boards/
本次發布預示著Tengine+96Boards開源軟硬體強強聯合,對未來的AI開源生態具有裡程碑的意義,也再次驗證了Tengine成為本土最受開發者歡迎的推理工具的地位!OPEN AI LAB將堅定與更多同道一起,加速AI產業化落地,共同構建AIoT生態網絡,實現賦能萬物,萬物智能!
96Boards是第一款基於ARM Soc的低成本、小尺寸並且兼容32位和64位Cortex-A/Cortex-R/M的公開規格的開源硬體平臺。針對外圍I/O、顯示和攝像頭的標準擴展接口使硬體廠商開發一款附加產品,即可在平臺的整個生命周期中適用所有符合96板規格的產品上。
96Boards項目由Linaro在2018年3月發起,旨在建立一個全球統一的軟硬體開發社區,提供高性價比的開發板。華為海思、高通、NXP和Xilinx、ST、瑞芯微、索喜、四維圖新等均已加入。
OPEN AI LAB(開放智能)於2016年成立,公司專注邊緣智能計算及應用,致力於推動晶片級算力、算法、產品工程化、行業應用等完整產業鏈的深度協作,加速人工智慧產業化部署和場景的邊界拓展,賦能場景化細分行業快速實現+AI。為AIoT產業上下遊合作夥伴提供端、邊、雲一體化人工智慧基礎軟硬體開發平臺及應用級解決方案。
https://github.com/OAID/Tengine