Imagination 的神經網絡加速器在邊緣計算領域的應用

2020-12-06 電子發燒友

Imagination 的神經網絡加速器在邊緣計算領域的應用

發表於 2019-08-08 10:59:51

今天，2019 SiFive Tech workshop在深圳舉行，IC晶片領域的兩百多位設計人員到場參會交流目前最熱門的RISC-V處理器開發，作為SiFive的DesignShare生態系統合夥夥伴，Imagination Technologies不僅在現場演示了最新新神經網絡加速演示，公司高級技術專家李安也發表《神經網絡加速賦能端側智能》介紹了Imagination 的神經網絡加速器在邊緣計算領域的應用。

目前，由於在商業模式上的創新，RISC-V在嵌入式處理器領域廣受歡迎，大量IC設計公司擁抱RISC-V，其中不乏英特爾、高通、華為、威騰電子等這樣的半導體巨頭，不過由於RISC-V處理器導入市場較短，其生態系統還在建設當中，尤其IP是其短板，因此SiFive 啟動了DesignShare項目，DesignShare提供高效的、預集成的IP解決方案，從而使各種規模的公司和團隊都能夠更快捷地完成SoC晶片的原型設計，DesignShare初衷是降低系統級晶片（SoC）原型設計獲取相關IP的前期成本。

Imagination Technologie宣布加入DesignShare，讓系統設計人員能夠輕鬆地獲取其業界領先的PowerVR圖形處理器（GPU）和神經網絡加速器（Neural Network Accelerator，NNA）矽智慧財產權（IP）內核。PowerVR GPU也是首個通過SiFive DesignShare生態系統來向客戶提供的、支持Vulkan®應用編程接口（API）的全功能GPU。

基於PowerVR GPU的手機AR演示

目前很多公司都加入了DesignShare，極大豐富了RISC-V的生態建設，目前這塊短板在彌補中。

DesignShare生態技術夥伴

目前，邊緣端側的人工智慧應用呈現從雲到邊緣端的加速趨勢，在手機、平板、無人家、安防攝像頭等領域都急需能進行人工智慧處理的方案。

在今天的演講中，李安著重介紹了在端側領域Imagination的解決方案。

他指出Imagination的解決方案可以幫助用戶在邊緣端以低功耗實現智能應應用。

以攝像頭為例（如下圖所示），傳統攝像頭是把所有視頻都存儲起來，這樣不但浪費了存儲空間也增加了視頻檢查的難度，而加入了運動檢測的涉嫌頭，只對運動物體有興趣，進行記錄，而有人工智慧功能的攝像頭，在邊緣端進行識別和檢測，把龐大的視頻變成了一串特徵值或者字符串，這樣的節省是非常大的。

他表示，Imagination的GPU可以滿足不同市場對人工知道算力的需求，小到安防攝像頭大到自動駕駛都可以用GPU完成人工智慧運算，如果同時搭配Imagination的PowerVR Series2NX NNA神經網絡加速器，則可以實現靈活性和性能的雙豐收。

他指出一般運算其實都是做性能、面積和功耗的均衡，比如要提升新能就要犧牲面積和功耗以及成本，而把GPU和NNA神經網絡加速器結合據可以做很好的均衡，這是因為，NNA的加速性能非常出色。

如果以CPU為標準，如果使用NNA加速器，其16bit能效提升450倍，而4bit能效提升850倍！這是非常驚人的提升！

Imagination最新的3NX神經網絡加速器算力提升到10TPOS，可以大幅度改善PPA性能。

而且神經網絡加速器適應市場各種神經網絡框架，可以靈活應對跟中人工智慧需求。

他舉例說，如果你想設計一臺高畫質電視，這時如果把Power VR GPU和NNA結合起來就可以實現高度的靈活性和高性能，如果有新的神經網絡算法，則用GPU去完成，這樣還可以適應未來需求。

他表示，Imagination的PowerVR集成化GPU和NNA軟體棧可以幫助客戶實現最佳性能及靈活性，PowerVR軟體在設計之初就考慮到與所有處理器架構能協同工作，當然也包括開放的、發展迅猛的RISC-V指令集架構，這是SiFive DesignShare生態系統的核心所在。

另外，PowerVR對包括Vulkan、OpenCL™、Android NNAPI和SYCL等各種API的支持可以給IC公司提供了新的機遇，可以幫助客戶研發出極具開創性的定製晶片。

共贏RISC-V！

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 光學卷積神經網絡加速器:通過光學實現更強大的人工智慧
    大規模並行的唯幅度傅立葉神經網絡 目前計算能力的供應遠遠無法滿足全球對機器學習硬體的需求。近日，美國喬治·華盛頓大學和加州大學洛杉磯分校的研究人員與深度科技創業公司Optelligence LLC共同開發出一種光學卷積神經網絡加速器，每秒能夠處理拍字節（1拍字節=250位元組）級的大量信息。這項創新利用了光的巨量並行性，預示著用於機器學習的光學信號處理新時代的到來，應用領域眾多，包括無人駕駛汽車、5G網絡、數據中心、生物醫學診斷、數據安全等。
  • 光學卷積神經網絡加速器:通過光學實現更強大的人工智慧!
    導讀據美國喬治·華盛頓大學官網近日報導，該校和加州大學洛杉磯分校的研究人員與深度科技創業公司 Optelligence LLC 共同開發出一種光學卷積神經網絡加速器，每秒能夠處理拍字節（1拍字節=2^50位元組）級的大量信息。
  • Imagination新發布神經網絡加速...
    對神經網絡的支持方面，IMG Series4可為CNN、LSTM、RNN等多種神經網絡加速，同時支持YOLO v3、Kittiseg等。>Series4 NNA IP特別針對自動駕駛領域、先進駕駛輔助系統（ADAS）等汽車領域應用進行了設計。
  • Lattice:聚焦網絡邊緣計算的差異化市場
    而豐富的系統設計經驗幫幫助客戶實現創新，已在網絡邊緣領域被多家客戶採用。」Glen Hawk表示。　　在網絡邊緣互連應用方面，Lattice的iCE系列、CrossLink系列、無線連接系列FPGA產品等都普遍應用於智能音箱，ADAS、車載信息娛樂系統，監控攝像頭，機器視覺，平板電腦、VR等領域。
  • 超低功耗 Lattice SensAI 引領網絡邊緣人工智慧設備邁向大眾市場
    通過提供結合了靈活、超低功耗FPGA硬體和軟體解決方案、功能全面的機器學習推理技術，Lattice sensAI將加速網絡邊緣設備上傳感器數據處理和分析的集成。這些新的網絡邊緣計算解決方案依託我們在FPGA邊緣互連領域的領導地位，可在大批量物聯網應用中實現靈活的傳感器接口橋接和數據聚合，包括智能音響、監控攝像頭、工業機器人和無人機等。」
  • 什麼是人工智慧神經網絡? 神經網絡是怎麼應用到各領域的?|什麼|...
    川北在線核心提示：原標題：什麼是人工智慧神經網絡？ 神經網絡是怎麼應用到各領域的？前不久，據華爾街日報報導， Uber在一宗無人車的測試過程中，造成了一名行人死亡的嚴重交通事故，除此之外，環顧我們身邊，蘋果手機的虛擬個人助理Siri有時會無法識別我們在說什麼；某些人臉識別支付 　　原標題：什麼是人工智慧神經網絡？ 神經網絡是怎麼應用到各領域的？
  • 5G成為邊緣計算的較強推動力
    除了解決容量、能源和成本問題外，邊緣計算還可以提高網絡可靠性，因為應用可以在發生普遍的網絡中斷期間繼續運行，通過清除某些威脅配置文件(例如全局數據中心拒絕服務 (DoS) 攻擊)，可以提高安全性。最重要的是，邊緣計算能夠為實時場景(例如虛擬實境商場、行動裝置視頻緩存)縮減延遲，同時在自動駕駛汽車、遊戲平臺或快節奏製造等環境中創造許多新的應用機會。
  • 基於憶阻器的神經網絡應用研究
    在已報導的神經形態計算架構晶片中，其計算能力顯著提高，並且體積和能耗遠小得多。因此，神經形態計算架構的發展在軟體和硬體領域都被極度重視，有望替換當前計算系統架構。 而在眾多用於實現神經形態計算的硬體元件中，憶阻器以其高集成度、低功耗、可模擬突觸可塑性等特點成為一大有力備選。
  • 神經網絡算法原理_神經網絡算法的應用_神經網絡算法實例說明
    神經網絡是一種模擬人腦結構的算法模型。其原理就在於將信息分布式存儲和並行協同處理。雖然每個單元的功能非常簡單，但大量單元構成的網絡系統就能實現非常複雜的數據計算，並且還是一個高度複雜的非線性動力學習系統。 　　神經網絡的結構更接近於人腦，具有大規模並行、分布式存儲和處理、自組織、自適應和自學能力。
  • Imagination推出性能達600 TOPS終極AI加速器IMG Series4
    11 月 13 日，Imagination 發布了耗時兩年研發的最新的第三代神經網絡加速器(NNA)產品 IMG Series4，其全新的多核架構可提供 600 TOPS(每秒萬億次操作)甚至更高的超高性能，主要面向先進駕駛輔助系統(ADAS)和自動駕駛應用。
  • 基於憶阻器的神經網絡應用研究
    在已報導的神經形態計算架構晶片中，其計算能力顯著提高，並且體積和能耗遠小得多。因此，神經形態計算架構的發展在軟體和硬體領域都被極度重視，有望替換當前計算系統架構。而在眾多用於實現神經形態計算的硬體元件中，憶阻器以其高集成度、低功耗、可模擬突觸可塑性等特點成為一大有力備選。
  • 人工神經網絡及其應用
    現在神經網絡對兒十多年來一直困擾計算機科學和符號處理的一些難題可以得到比較令人滿意的解答，顯示出了其獨特的能力。神經網絡是在許多學科的基礎上發展起來的一門活躍的邊緣性交義學科。它的產生和發展一方面受其他學科的影響，反過來又勢必影響其他學科的發展。
  • 顛覆傳統計算架構:光神經網絡硬體登上Nature
    在過去的幾十年裡，電子計算發展迅猛，但其能源成本居高不下，因此，研究人員一直在探索其他可行的計算方法。光學計算就是其中一條頗有前景的研究方向。近日，一篇 Nature 論文展示了光學計算的最新成果，德國的研究人員提出了一種在毫米級光子晶片上實現的全光學神經網絡，該網絡內部沒有光到電的轉換，因此能源利用效率更高。
  • 華工陳俊龍團隊最新成果:助力邊緣計算,構建疊層寬度神經網絡成...
    日前，由華南理工大學陳俊龍教授及其團隊設計的一種可以動態擴展神經元及其層數的顛覆性深度和寬度結合，且不用從頭開始的動態結構神經網絡——疊層寬度學習網絡(Stacked BLS)，將使這些困難迎刃而解!　　眾所周知，深度神經網絡學習結構輸入層與輸出層節點固定，整個網絡的結構也隨之固定。
  • 英特爾發布Movidius(TM)神經計算棒
    神經計算棒，這是世界上首個基於USB模式的深度學習推理工具和獨立的人工智慧（AI）加速器，為廣泛的邊緣主機設備提供專用深度神經網絡處理功能。外形小巧的MovidiusTM神經計算棒專為產品開發者、研究人員和創客設計，提供專用高性能深度神經網絡處理性能，從而減少開發、調優和部署人工智慧應用的障礙。
  • 物理波動力學計算在模擬循環神經網絡的應用
    打開APP 物理波動力學計算在模擬循環神經網絡的應用 量子認知 發表於 2020-01-13 14:57:06 機器學習在執行複雜的信息處理任務方面取得了顯著成功，例如計算機視覺識別和機器翻譯，這是過去傳統計算方法難以實現的。但是，這些應用程式的計算需求呈指數級增長，這促使人們努力開發新的專用硬體平臺，以快速高效地執行機器學習模型。其中包括神經形態硬體平臺，其架構模仿大腦的生物電路。
  • 邊緣計算之於製造業有何用?
    在單機時代，VLSI是基礎技術，高級語言和作業系統 是關鍵應用加速器;進入PC&LAN時代，我們製造了微處理器，而DOS和Windows成為關鍵應用加速器，更是讓計算機走到了我們每一個人的身邊，也讓人親身感受到計算機的力量。即將到來的物聯網時代，越來越多的智能設備出現，那麼這個時代的關鍵應用加速器是什麼呢?答案就是邊緣計算技術。
  • 乾貨丨邊緣計算應用、現狀及挑戰
    針對於此，萬物互聯應用需求的發展催生了邊緣計算模型。邊緣計算模型是指在網絡邊緣執行計算的一種新型計算模型。邊緣計算模型中邊緣設備具有執行計算和數據分析的處理能力，將原有雲計算模型執行的部分或全部計算任務遷移到網絡邊緣設備上，降低雲伺服器的計算負載，減緩網絡帶寬的壓力，提高萬物互聯時代數據的處理效率。
  • FPGA的應用領域主要是深度學習和神經網絡算法
    打開APP FPGA的應用領域主要是深度學習和神經網絡算法 中關村在線 發表於 2019-09-06 17:50:27 不同於CPU的是，FPGA和GPU內都有大量的計算單元，因此它們的計算能力都很強。在進行神經網絡運算的時候，兩者的速度會比CPU快很多。
  • 【科普】邊緣計算之於製造業有何用?
    在單機時代，VLSI是基礎技術，高級語言和作業系統 是關鍵應用加速器；進入PC&LAN時代，我們製造了微處理器，而DOS和Windows成為關鍵應用加速器，更是讓計算機走到了我們每一個人的身邊，也讓人親身感受到計算機的力量。 即將到來的物聯網時代，越來越多的智能設備出現，那麼這個時代的關鍵應用加速器是什麼呢？答案就是邊緣計算技術。