基於FPGA的嵌入式AI解決方案——百度EdgeBoard三兄弟

2021-01-10 百度AI

EdgeBoard是基於FPGA打造的嵌入式AI解決方案,能夠提供強大的算力,並支持定製化模型,適配各種不同的場景,並大幅提高設備的AI推理能deeplab力,具有高性能、高通用、易集成等特點。

EdgeBoard系列計算卡符合工業設計標準、滿足-40℃~85℃的溫度範圍,接口齊全,可廣泛適配如安防監控、工業質檢、醫療診斷、科研教學、智能零售等各種場景。

EdgeBoard產品分為三個系列,稱之為「三兄弟」,能夠滿足客戶不同的需求,既有滿足高性能計算的方案,也有高性價比的處理方案。本文將從「三兄弟」的特點及整體硬體框架兩個方面來介紹EdgeBoard。

1.為什麼EdgeBoard使用FPGA

理想的異構計算平臺應該具備三種基本能力:首先專有的硬體加速能力,提高算法的性能;其次高效靈活適配算法的能力,適配不斷演進的算法;最后豐富的外圍接口,適合不同的應用場景。

CPU作為通用處理器,以邏輯計算作為出發點,更偏重控制流數據,適用於控制和調度類任務,不易於進行外圍電路的擴展。GPU具有並行計算的特點,廣泛應用在訓練階段,但由於功耗大、成本高等原因,少有部署在端上的產品,另外高延遲及缺少對外圍電路的支持也不利於部署到端上的產品中。ASIC作為一種專用集成電路晶片,具有體積小、功耗低、計算性能高等特點,但AISC晶片研發時間長,資金投入大,由於晶片內部結構相對固定,無法適配快速演進的AI算法,在應用場景沒有明確之前ASIC顯然不是最優的選擇。

FPGA作為一種現場可編程門陣列,具有低功耗、低延遲、高性能等優勢,其可編程的特性又可以靈活適配不同的算法,同時FPGA豐富的外圍接口可以滿足不同的應用需求,FPGA差異化的內部邏輯資源可以提供不同的算力支持,這些優勢使得FPGA被廣泛應用在AI推理加速上。

2.EdgeBoard計算卡介紹

2-1 概述

EdgeBoard是基於Xilinx Zynq UltraScale+ MPSoC系列晶片打造的計算卡,晶片內部集成ARM處理器+GPU+FPGA的架構,既具有多核處理能力、也有視頻流硬解碼處理能力,還具有FPGA的可編程的特點。內置Linux 4.14.0系統和深度學習預裝環境,與百度大腦模型定製平臺(AIStudio、EasyDL、EasyEdge)深度打通,實現模型的訓練、部署、推理等一站式服務。

EdgeBoard計算卡產品可以分為FZ9、FZ5、FZ3三個系列,是分別基於XCZU9EG、XAZU5EV、XAZU3EG研發而來,分別具有高性能,硬解碼,低成本等特點,針對不同需求和應用場景,有不同的市場定位和產品定位,滿足各類開發者多樣性的需求。

2-2 FZ9系列計算卡

EdgeBoard FZ9系列計算卡是基於XCZU9EG晶片的高性能計算卡,具有較高的性能和集成功能。ZU9晶片PS端具有四核Cortex-A53和雙核Cortex-R5 以及Mali-400MP2 GPU;PL端資源DSP Slices 2520,計算性能達3.6Tops,片上存儲BRAM高達32.1Mb。

FZ9計算卡產品採用核心板+擴展板的雙層設計方案,增加了對外接口的數量,其80*120mm的尺寸方便計算卡集成於到產品中,具備軟硬一體的解決方案(軟體+FPGA),支持多種視頻源(usb、mipi、bt1200、網絡攝像頭)的輸入,並具有強大的視頻預處理能力,視頻輸出DisplayPort接口兼容標準Linux視頻框架V4L2。高性能的視頻處理能力和標準化的視頻輸出接口可滿足機器學習、醫療診斷等行業需求。

2-3 FZ5系列計算卡

EdgeBoard FZ5系列計算卡是基於XAZU5EV晶片的計算卡,提供較高性能和功能集成,具有多路視頻流H264&H265標準的編解碼功能。ZU5晶片PS端同樣包含四核Cortex-A53 、雙核Cortex-R5、以及GPU Mali-400MP2;PL端資源DSP Slices 1248,計算性能達2.4Tops,片上存儲BRAM達5.1Mb,UltraRAM 18Mb。

FZ5計算卡產品延續了FZ9計算卡的產品形態,採用核心板+擴展板雙層設計方案,具有多視頻輸入接口,VCU(Video Codec Unit)硬核解碼,對視頻的輸入處理採用流水線設計,實現高吞吐量和低時延,具有極佳的功耗性能比。產品可以廣泛應用於具有硬解碼需求的視頻圖像推理,滿足安防監控、工業質檢、自動駕駛等行業需求。

2-4 FZ3系列計算卡

EdgeBoard FZ3系列計算卡是基於XAZU3EG晶片的計算卡,處理器ZU3晶片內置四核Cortex-A53和核心FPGA可編程邏輯模塊;PL端資源DSP Slices 360,實測計算性能達1.2Tops,片上存儲BRAM達7.6Mb。

FZ3計算卡產品具有高集成性的設計方案,板卡尺寸為80*70mm,具有usb3.0、bt1120、mipi、網絡等多視頻輸入接口,板載2GB 64bit位寬的 DDR4,整體功耗僅5W左右,極佳的功耗性能比。對於FZ3產品具有的高性能、低功耗、低成本、小體積的特點,產品可以廣泛應用於科研教學、智能零售、安防監控等行業。

3.EdgeBoard框架及性能介紹

3-1 MPSoC系統框架

Zynq UltraScale+ MPSoC架構提供頻率高達1.5GHz的四核Cortex-A53 高效 64位 ARMv8 應用處理器、具有雙核 ARM Cortex-R5 600MHz的實時低功耗協處理器,以及ARM Mali-400MP2 GPU達到667MHz,同時EV系列還包含 H.265/H.264 視頻編解碼器單元,可提供原生 UltraHD 壓縮及專用引擎,滿足動態電源管理與安全配置需求。Zynq UltraScale+ MPSoC平臺系統頂層框圖如下:

3-2 EdgeBoard計算卡配置比較

基於MPSoC平臺系統頂層框圖,EdgeBoard計算卡的系統框架設計如下:

EdgeBoard計算卡在配置方面,擁有4GB 和2GB 的不同DDR4內存配置版本,存儲支持8GB eMMC,256MB NOR Flash,8Kb EEPROM,具有多路視頻(usb、mipi、bt1200、網絡視頻)輸入接口,同時為滿足開發者調試便捷性,支持TF Card系統盤啟動。

EdgeBoard計算卡的整體配置比較:

3-3 常用模型在EdgeBoard上的性能數據

EdgeBoard軟核仍在持續升級,性能也將同步提升。不同版本的網絡模型對算力要求不同,針對具體項目應用需求,可進行定製優化。

福利

據可靠小道消息:EdgeBoard(FZ5和FZ9)正在打折中,歷史最低價,降價1000元,有興趣可以看看。

相關焦點

  • 嵌入式系統趨勢與技術
    編輯嵌入式系統開發小知識:嵌入式設備通常由與硬體集成的軟體提供動力,這些軟體包括片上系統soc,現場可編程門陣列fpga,旨在由嵌入式開發人員針對特定功能進行編程的集成電路ic,以及其他固件版本。這樣就很難把軟體和硬體完全分開。
  • 基於NXP i.MX8QM的AI影像辨識與車輛識別方案
    瀏覽器版本過低,暫不支持視頻播放現今自動化駕駛以及輔助駕駛越來越普遍化的情況下,對於edge computing的需求也越來越提升。品佳在去年提出了eIQ edge運算的解決方案,詳細請參考:https://www.wpgdadatong.com/tw/solution/detail?PID=5260今年2020,在此介紹新的eIQ 2.0,大幅提升了效率以及各類使用方式。
  • 嵌入式快訊:M1808 AI 核心板和基於Transformer的車道線檢測網絡
    嵌入式快訊:M1808 AI 核心板和基於Transformer的車道線檢測網絡 RTThread物聯網操作 發表於 2020-12-21 11:06:11 導讀:
  • 文曄科技為使用美高森美FPGA產品的客戶開發系統解決方案
    在新的設計中心,OEM開發人員可以獲得廣泛的工程技術支持和寶貴的特定應用參考設計,能夠使用美高森美獲獎的SmartFusion®2 SoC FPGA和IGLOO®2 FPGA器件解決其主流FPGA-based設計挑戰。
  • 小度真無線耳機+百度AI同傳解決方案 打造耳邊「翻譯官」
    (小度真無線耳機媒體評價)經了解,小度真無線耳機的同傳模式背後是由百度自主研發的一套高質量、低時延的同傳解決方案,融合了百度領先的機器翻譯、語音處理等人工智慧技術。該方案不僅已廣泛運用在像小度真無線耳機、百度WIFI翻譯機等智能硬體上,而且在百度翻譯APP(手機端)和百度AI同傳助手(電腦端)上均可免費使用AI同傳功能,為辦公、學習、追劇看「生肉」都提供了很大便利。
  • 基於FPGA的m序列信號發生器設計
    基於FPGA與Verilog硬體描述語言設計井實現了一種數據率按步進可調、低數據誤碼率、反饋多項式為本文引用地址:http://www.eepw.com.cn/article/263588.htm    1 m序列信號發生器的組成  基於FPGA的m序列信號發生器硬體結構極其簡單,僅需兩個獨立按鍵(一個是復位按鍵與另一個控制數據率切換按鍵)、一個48 MHz的用於提供系統時鐘有源晶振、系統電源、一塊配置晶片、幾個簡單的電阻與電容即可實現。按鍵去抖動、按鍵復位、按鍵切換數據率、時鐘分頻等功能均在FPGA內部編程實現。
  • 吳恩達離職百度後要去Drive ai?其妻子否認這種猜測
    【TechWeb報導】3月28日消息,百度首席科學家吳恩達宣布離職百度後,對於其下一站的去向引起了眾多的猜測。吳恩達妻子Carol Riley擔任總裁的創業公司Drive ai呼聲最高,但是來自騰訊科技的消息,Reiley對這一猜測明確表示不屬實。
  • 美高森美推出FPGA-Based Root-of-Trust解決方案
    致力於提供功率、安全、可靠與高性能半導體技術方案的領先供應商美高森美公司(Microsemi Corporation,紐約納斯達克交易所代號:MSCC)發布用於嵌入式微處理器的全新FPGA-based 安全啟動參考設計。
  • 百度車聯網數位化賦能「啟辰星」業界首發四音區+軟降噪解決方案...
    東風啟辰與百度車聯網聯手發布「啟辰星」  此前,在首屆百度Apollo生態合作夥伴大會上百度車聯網事業部總經理蘇坦曾表示「基於東風啟辰與百度Apollo的強強聯合,雙方將為用戶打造全新的智能車聯新體驗。
  • 這六款MCU解決方案,很靠譜!
    高集成度,集成射頻(RF)模型,為物聯網提供無線通訊解決方案。超低成本,採用標準4層金屬層嵌入式快閃記憶體工藝,僅需24層光罩,具有競爭力的成本優勢。該工藝平臺同時擁有豐富多樣的嵌入式存儲器IP,也提供高密度存儲器編輯器和標準單元庫,可為客戶度身定製性價比優越、全面靈活的解決方案,加速客戶產品上市時間。
  • Microchip發布基於RISC-V的SoC FPGA開發工具包
    為滿足這一需求,Microchip Technology宣布推出業界首款基於RISC-V的SoC FPGA開發工具包。這款名為Icicle的開發工具包專為低功耗、低成本、基於RISC-V的PolarFire SoC FPGA打造,匯集了眾多的Mi-V合作夥伴,助力加速不同行業的客戶設計部署和商業應用。
  • 南京百度|百度推廣-百度雲搜索推廣解決方案SEM Solution
    SEM搜尋引擎營銷SEM的方法包括搜尋引擎優化(SEO)、付費排名、精準廣告以及付費收錄下面有南京百度總代理商-南京首屏高健給大家分享下百度雲搜索推廣解決方案的產品概念,功能介紹,產品優勢,應用場景及接入流程
  • Mantis Vision助力百度AI 促進3D生物識別的應用及發展
    北京2019年7月5日 /美通社/ -- 2019年7月3日,Mantis Vision作為全球領先的3D傳感設備和3D動態內容捕獲及分享技術的解決方案供應商,以深度合作夥伴身份受邀參加於北京舉辦的Create 2019百度AI開發者大會。
  • 築造AI抗疫防線,百度開源業內首個口罩人臉檢測及分類模型
    (模型可視化效果,綠框為佩戴口罩的標註,紅框為未佩戴口罩的標註)隨著本周各企業相繼復工,節後經濟開始逐漸恢復,人臉口罩檢測方案成為返工潮中眾多社區、大型廠商、央企的重要需求。如判斷工區員工是否佩戴口罩、人流密集的關口運輸中心如何識別戴口罩的人臉並測溫、佩戴口罩是否也能完成日常刷臉打卡……都是新型冠狀病毒肺炎疫情下需要解決的真實痛點。
  • 美高森美使用物理不可克隆功能技術增強SmartFusion2 SoC FPGA和...
    Intrinsic-ID是基於其專利硬體固有安全技術(Hardware Intrinsic Security technology™)之安全IP內核和應用的世界領導廠商。硬體增強PUF技術成為了美高森美器件的一部分,讓系統架構師和設計人員在開發廣泛的物聯網(IoT)應用時擁有了可堪信賴的超安全解決方案。
  • 嵌入式 BI 行業解決方案:智慧環保大數據可視化系統
    嵌入式 BI 行業解決方案:智慧環保大數據可視化系統 2020年12月23日 18:10作者:黃頁編輯:黃頁 三、Wyn Enterprise 解決方案 利用 Wyn Enterprise 靈活的數據交互和探索分析能力,以及 OEM 白標集成的方式,為環保數據分析提供技術支撐。提供多源數據整合、報表統計、數據可視化、自助式 BI 分析、以及數據填報等功能,挖掘環保數據的潛在價值,為環保數據分析提供數據支撐。
  • FPGA quartus ii裡的靜態時序分析
    FPGA quartus ii裡的靜態時序分析 huan09900990 發表於 2020-11-25 11:39:35 在fpga工程中加入時序約束的目的
  • 嵌入式Internet技術及其實現方案
    因此,嵌入式Internet技術就應運而生,並成為業內的一大熱點。2 嵌入式Internet技術原理及方案嵌入式Internet技術,也就是將嵌入式系統與Internet結合起來實現系統網絡化,涉及的兩個關鍵問題即傳送信息的媒質和採用的協議。與 Internet相聯接的途徑可以是乙太網或者電話線等媒介。
  • 「硬見小百科」單片機、ARM、MCU、DSP、FPGA、嵌入式關係
    但是主要思想是一樣的,就是相比較PC機這種通用系統來說,嵌入式系統是個專用系統,結構精簡,在硬體和軟體上都只保留需要的部分,而將不需要的部分裁去。所以嵌入式系統一般都具有便攜、低功耗、性能單一等特性。 然後,MCU、DSP、FPGA這些都屬於嵌入式系統的範疇,是為了實現某一目的而使用的工具。
  • 助力智能工廠建設,華北工控提供基於AI的多樣化計算機產品方案
    各企業為提升自己的社會地位和經濟效益,紛紛加入智能工廠建設布局,並在以下幾方面表現出色:  深入挖掘數據價值:智能工廠基於物聯網和雲計算等前沿技術,具備強大的數據採集、分析、存儲與處理能力,可實時監測工廠環境及設備運行狀態,並自動生成各種數據報表。