開源軟硬體強強聯合,Tengine+96 boards開啟AI生態新篇章

2021-02-15 OPEN AI LAB開放智能

近日,OPEN AI LAB 邊緣AI推理框架Tengine新增發布對多款主流96Boards.ai平臺的支持,包括Rock960(RK3399),HiKey970(HiSilicon Kirin 970 SoC), Qualcomm® Robotics RB3 Development Platform(Qualcomm SDA845 processor),Thor96 Board(NXP i.MX 8M SoC)。本次發布預示著Tengine+96Boards開源軟硬體強強聯合,將極大促進AI領域的技術發展與產品應用的加速發展,開啟了AI開源生態的重要篇章!

目前,Tengine已經支持兩個主流96boards規範的AI平臺-使用高通SoC的Dragonboard 820c 和海思SoC的HiKey960,以及之前已經支持的瑞芯微的Rock960。

本次合作,我們評測了Tengine在96 Boards的幾個平臺的推理性能,為了驗證Tengine可以在96 Boards平臺上能夠更快地進行AI應用開發,我們移植了一套人臉檢測與關鍵點的Demo,從評估來看,可以達到基本的商業落地要求。

Tengine最新的開源版本地址:

https://github.com/OAID/Tengine

Tengine適配移植上去後,

Tengine Demo的展示效果如下:

Tengine是OPEN AI LAB擁有自主智慧財產權的邊緣人工智慧推理框架,致力於解決AIoT產業所面臨的碎片化問題,加速AI的部署和普及,惠及千行百業。

Tengine擁有強有力的技術支撐,核心開發團隊由來自 Arm、Intel、博通、華為以及Linaro 96Boards等國際化專業人才組成,對晶片和嵌入式系統、深度學習和邊緣計算等領域有深刻的理解。

(https://github.com/OAID/Tengine)開源,開始為海量AIoT應用和設備提供高性能的AI推理支持。一方面Tengine可通過異構計算技術同時調用CPU、GPU、DSP、NPU 等不同計算單元來完成深度學習網絡推理運算,另一方面,它和TensorFlow、Pytorch、Caffe、MXNet 等訓練框架相互配合,實現主流訓練框架模型格式的全兼容。值得一提的是Tengine是國際上為數不多的通過ONNX官方認證的推理框架之一。

Tengine作為高效的深度學習推理引擎和AIoT開發平臺,還可根據企業需求提供定製化商業服務,從而更好地賦能人工智慧上下遊企業。

96Boards.ai通過CPU、GPU、DSP、FPGA、ASIC等多種計算單元實現了多個人工智慧計算平臺的神經計算加速。通過利用96Boards開放平臺,OPEN AI LAB將進一步加速一系列Soc上的AI產品創新。

本次合作的初衷是為了給開發者提供一個便捷的軟硬體一體的AI開發平臺,並且有良好的AI軟體支持和Tengine AI開源社區的支撐,從而使工程師們能夠零門檻的進行AI應用開發,並可以大大的縮短產品開發周期。

早在2018年的時候,Tengine便已發布對多款主流96Boards.ai平臺的支持,原文如下

https://www.96boards.org/blog/tengine-0.5-support-for-96boards/

本次發布預示著Tengine+96Boards開源軟硬體強強聯合,對未來的AI開源生態具有裡程碑的意義,也再次驗證了Tengine成為本土最受開發者歡迎的推理工具的地位!OPEN AI LAB將堅定與更多同道一起,加速AI產業化落地,共同構建AIoT生態網絡,實現賦能萬物,萬物智能!

96Boards是第一款基於ARM Soc的低成本、小尺寸並且兼容32位和64位Cortex-A/Cortex-R/M的公開規格的開源硬體平臺。針對外圍I/O、顯示和攝像頭的標準擴展接口使硬體廠商開發一款附加產品,即可在平臺的整個生命周期中適用所有符合96板規格的產品上。

96Boards項目由Linaro在2018年3月發起,旨在建立一個全球統一的軟硬體開發社區,提供高性價比的開發板。華為海思、高通、NXP和Xilinx、ST、瑞芯微、索喜、四維圖新等均已加入。

OPEN AI LAB(開放智能)於2016年成立,公司專注邊緣智能計算及應用,致力於推動晶片級算力、算法、產品工程化、行業應用等完整產業鏈的深度協作,加速人工智慧產業化部署和場景的邊界拓展,賦能場景化細分行業快速實現+AI。為AIoT產業上下遊合作夥伴提供端、邊、雲一體化人工智慧基礎軟硬體開發平臺及應用級解決方案。

 https://github.com/OAID/Tengine

相關焦點

  • 實測Tengine開源的Dubbo功能
    背景Tengine是阿里巴巴基於Nginx開發並開源的Web伺服器,它繼承了Nginx所有的功能和特性,並在其基礎上做了大量的擴展和增強,其中像動態模塊加載
  • ARM生態系統的盛會Linaro connect(之一):arm64 server和端側AI
    Linaro作為推進arm生態的組織,在從uefi到kernel到cloud,在眾多開源項目中都有不少貢獻。
  • 夥伴|注重協同創新,中科創達助力96Boards AI平臺實現下一代嵌入式AI創新
    這就是我們致力於在96Boards AI開放平臺上構建AI套件和解決方案的原因。 憑藉我們多年在智能系統開發方面的專業知識和經驗,中科創達將實現基於96Boards AI平臺的下一代嵌入式AI創新。 Linaro(Linux on Arm),Arm®生態系統最大的開源軟體協作工程組織,今天宣布推出96Boards AI平臺以及一系列面向AI軟硬體解決方案的96Boards兼容平臺。
  • Tengine-Ngnix高級版
    從2011年12月開始,Tengine成為一個開源項目,Tengine團隊在積極地開發和維護著它。Tengine團隊的核心成員來自於淘寶、搜狗等網際網路企業。Tengine是社區合作的成果,我們歡迎大家參與其中,貢獻自己的力量。
  • Tengine完美適配國產端側晶片龍頭企業瑞芯微RV1109/RV1126晶片,助力國產晶片開啟騰飛之路
    CPU 代碼/* load model, create tengine nn graph */ graph_t graph = create_graph(vx_context, "tengine", model_file);NPU 代碼
  • Poplar開發板基於海思Hi3798C V200的符合96Boards ARM開放平臺規範的電視盒開發板
    Poplar開發板,採用海思的 Hi3798C V200 主控,符合 96Boards ARM開放平臺規範的電視盒開發板。
  • Socionext攜手Linaro和技嘉科技提供符合96Boards的開發環境
    在技嘉科技製造的硬體上配備Socionext處理器,Linaro將通過96Boards社群提供支持。通過提供本開發環境,能促進基於ARM的軟體開發,並且擴大在IoT網關、邊緣計算、伺服器等不同應用上ARM架構的使用。
  • 長江保護 | 碧水長流 「顏值」常在 嘉興開啟治水新篇章
    長江保護 | 碧水長流 「顏值」常在 嘉興開啟治水新篇章 2021-01-17 18:23 來源:澎湃新聞·澎湃號·政務
  • 2020中國雲計算生態峰會成功舉辦, 開啟中國雲生態發展新篇章!
    據了解,由多年專注於數字生態研究的專業機構B.P商業夥伴主辦的中國雲計算生態峰會,經過多年的舉辦,已經成為中國雲計算生態領域的年度重磅盛事、知名辦會品牌和業界人士觀察國內雲計算市場的窗口和風向標。會上,眾多產業大咖圍繞不同維度出發,展開談經論道。
  • 百度AI加速器第三期招募開啟 四大資源全面助力AI創業
    百度 AI 加速器第三期  招募開啟!歡迎小夥伴們登錄 AI 加速器官方網站 http://ai.baidu.com/accelerator ,了解詳情並下載報名申請材料,發送申請材料及商業計劃書到加速器郵箱 ai-accelerator@baidu.com,即可申請 AI 加速器計劃。
  • 面向晶片的推理框架Tengine-Lite
    在測試opencv沒問題後我們進行tengine-lite的編譯與安裝,tengine-lite的編譯安裝是相對opencv容易一些。下載源碼(一定要使用如下指令下載,因為lite暫時是分支):git clone -b tengine-lite https://github.com/OAID/Tengine.git Tengine-Lite    2.編譯tengine-lite:
  • HiKey亮相全球開源盛會,樂美客助力華為擁抱開源
    來自全球200多個國家和地區的開源愛好者、專家和企業匯聚一堂,共享這一年度開源盛事,探討在開源以及雲、數據和移動技術創新的趨勢及展望。華為和樂美客科技在此次OSCON大會現場展示了全球第一款符合Linaro 96boards CE標準的開源硬體產品HiKey(LeMaker version)。
  • Tengine-1.4.5 開發版正式發布
    您可以在這裡下載:http://tengine.taobao.org/download/tengine-1.4.5.tar.gz 或者可以在github 上檢出代碼:https://github.com/alibaba/tengine本次發布加入了一些新功能,包括一致性hash模塊,它為後端伺服器提供了一致性hash (http://en.wikipedia.org/wiki
  • 美圖手機背後的算盤:現金流、品牌及軟硬一體化生態
    毫無置疑,美圖手機是美圖公司的「旗艦」級產品,歷史承擔現金流重任,未來一樣承擔賦能智能硬體生態的重任。 手機一直以來是美圖的優質現金流來源。 從美圖2016年底上市到現在,主要包括手機業務在內的智能硬體始終為美圖公司提供了主要現金流來源。
  • OpenCV 20 年,首款開源軟硬一體的 OAK 套件來了!
    從 2000 年首個開源值此之際,OpenCV人工智慧套件「OAK」(https://www.kickstarter.com/projects/opencv/opencv-ai-kit?ref=1fhhds)應運而生。據悉,它是一種MIT許可的開源軟體和基於Myriad X的各種規模的計算機視覺硬體解決方案,且消除了嵌入式人工智慧的編譯痛苦。
  • CTO王海峰談百度AI的2020:打造AI新型基礎設施、雲智一體加速產業智能化
    2020,百度AI的實幹之年繼續自己的特色之路:持續創新突破,探索科技前沿;自主可控、開源開放,夯實軟硬一體AI大生產平臺,打造AI新型基礎設施;雲智一體,使能行業,賦能生態,加速產業智能化。」一些關鍵的數字可以窺見百度AI的成績:在CVPR、ACL、ECCV、NeurIPS、INTERSPEECH等全球頂級人工智慧學術會議和權威競賽上,百度AI問鼎冠軍30多次,論文收錄260多篇,持續彰顯AI技術領軍實力;在人工智慧專利申請量和授權量方面,百度以9364件專利申請和2682件專利授權處於中國第一位;今年,百度再次入選《麻省理工科技評論》「50家聰明公司」;截止目前,百度共獲得了來自政府
  • 加速產業AI化!浪潮提出」元腦「生態計劃,要用計算力+生態成就行業AI大腦
    不是推出產品,而想構建生態。這個生態的名字叫」元腦生態「,它不獨屬於某一個企業,而將屬於整個行業。浪潮希望,通過推動元腦生態,聚合產業力量,以計算力+生態的方式,加速中國產業AI化進程。在此生態中,生態夥伴能以最高效的方式提取所需,最大化發揮所長,實現最先進的AI核心能力和最實際、最可操作的落地部署能力的強強聯合,共同給行業最終用戶交付符合
  • ARM生態系統的盛會Linaro connect(之二):arm64 workstation和低成本調試工具
    arm64 workstationLinaro 96boards致力於Enterprise領域的板子至少有兩年了,開始的進展並不順利,最早的EE
  • Nginx/Tengine入門級知識
    /bin/bashnginxd=/usr/local/tengine/sbin/nginxnginx_config=/usr/local/tengine/conf/nginx.confnginx_pid=/var/run/nginx.pidRETVAL=0prog="nginx". /etc/rc.d/init.d/functions.
  • 超詳細的Tengine GEMM矩陣乘法彙編教程
    { for(int j=0;j<n;j++) { C[i*n+j]=0.f; for(int p=0;p<k;p++) { C[i*n+j]+=A[i*k+p]*B[p*n+j]; } } }}OpenBLAS[2]是一個開源的基礎線性代數計算庫