科學家發明近傳感器計算與傳感器內計算技術,邊緣計算更「穩」

2021-01-13 DeepTech深科技

提到邊緣計算,也許你感到很晦澀,但對於章魚你肯定不陌生。

章魚是一種無脊椎動物,渾身布滿神經元,但是它的腦部只有 40% 的神經元,剩下的 60% 神經元在八條腿(腕足)上。這等於章魚擁有 「多個小腦 + 一個大腦」,這樣的分布式結構使得它在捕獵時非常敏捷,腿部得到信號即可就近捕獵。

圖 | 章魚(來源:IC photo)

而邊緣計算的結構和章魚很相似,它是一種分布式計算,得到信息後無需把大量數據上傳到遠端管理平臺,直接可以就近處理。

而說到邊緣計算,就不得不提傳感器。當前的傳感器網絡中,節點數量增長非常迅速,傳感器終端和計算單元之間交換著大量冗餘數據,如何在處理大量數據的同時、還能降低功耗,是邊緣計算亟待解決的難題。

針對此,近日香港理工大學應用物理學系副教授柴揚發表在《自然電子學》上題的論文《近傳感器計算與傳感器內計算》(Near-Sensor and In-Sensor Computing),創造性地提出了近傳感器計算與傳感器內計算的方法。

圖 |《近傳感器計算與傳感器內計算》(來源:Nature)

柴揚告訴 DeepTech,近傳感器計算與傳感器內計算的方法,可減少傳感器終端和計算單元之間的冗餘數據移動。而計算任務被部分轉移到傳感器終端後,能減少能耗和時間延遲,還可節省通信帶寬並增強數據安全性和隱私性。

不同架構,不同級別

談及一些情況下把數據處理放在傳感器端更好的原因,柴揚解釋稱,物聯網傳感器收集到的數據基本都是非結構性的,因此數據必須要先做處理。而一個完整的傳感系統既需要有傳感器,又需要有運算器。但實際上,傳感器的製造工藝和運算器的製造工藝很不一樣。以圖像傳感器為例,用 65 納米的節點已是非常先進的工藝;而如果要做運算,目前最先進的半導體工藝已經發展到 5 納米節點。

此外,傳感器和運算器通常採用不同工藝製造,然後組裝為一個完整的系統,兩者在系統中的距離較遠,更多情況是傳感器收集數據,上傳到雲端後做計算處理。那麼在哪些情況下,把數據處理放在傳感器端比在雲端更好呢?

柴揚表示,這主要出於兩個剛性需求考量:第一個考量是功耗,傳感器一般是靠電池來供電,因為電量受限,所以不能做太複雜的運算,複雜運算一般都要上傳到雲端做進一步處理;第二個考量是時間,也就是實時處理。

比如,自動駕駛對延時非常敏感,如果傳到雲端處理再傳回來,會給安全駕駛帶來很大挑戰。因此,比較簡單且對時間敏感的數據處理,放在傳感器端比放在雲端更好。一般來說,傳感器和計算單元的材料不同,因此它們的功能、結構、設計和處理系統都不同。

在傳統的感覺計算架構中,傳感器和計算單元在物理空間上是分開的,它們之間有較遠的物理距離。而在近傳感器計算和傳感器內計算架構中,傳感器和計算單元之間的距離通常會顯著減少或消除。比如,在近傳感器計算架構中,前端處理單元被放置在傳感器旁邊,這意味著處理單元可提高系統整體性能,並最大限度減少冗餘數據傳輸;在傳感器內計算架構中,單個傳感器或多個連接的傳感器可直接處理收集到的信息,這樣的設計可將傳感和計算功能結合在單一器件中。

圖 | 不同的計算架構

圖 | 用於神經網絡中乘法累加運算的、具有可重構傳感器的傳感器內計算架構示意圖

柴揚表示:「近傳感器計算面臨的一大挑戰是傳感單元和計算單元的集成。例如,計算單元已經採用了非常先進的技術節點,而大多數傳感基於大節點技術就可以很好地執行它們的功能。近傳感器計算的集成技術包括異質集成、3D 單片集成、片上系統集成和 2.5D Chiplet 技術等,其中 3D 單片集成提供了一種高密度、短距離的系統集成方法,但是其複雜的製備工藝和散熱仍面臨巨大挑戰。」

圖 | 近距離傳感器和傳感器內計算的集成技術

雖然傳感器內計算架構已被證明是結合計算和傳感能力的方法,但它們通常只適用於特定場景。此外,它們只能通過處於早期開發階段的新材料和新器件結構來實現。「近傳感器計算和傳感器內計算是一個跨學科的研究領域,涵蓋材料、器件、電路、架構、算法和集成技術,」 柴揚說,「這些架構很複雜,因為它們需要在不同場景中處理大量不同類型的信號。近傳感器計算和傳感器內計算的成功部署,需要傳感器、設備、集成技術和算法的共同開發和共同優化。」

在本次研究中,該團隊為近傳感器計算和傳感器內計算提供了清晰定義,他們將信息處理分為低級處理和高級處理。低級處理,即通過抑制不必要的噪聲或失真,或通過增強進一步處理的特徵,從大量原始數據中有選擇性地提取有用數據;高級處理,即抽象表示,這涉及到認知過程,其能識別輸入信號是 「什麼」 或 「在哪裡」。最後,除了為近傳感器計算和傳感器內計算提供可靠的定義之外,研究人員還提出了實現集成傳感和處理單元的可能解決方案。在未來,他們的工作可以激發進一步的研究,旨在利用先進的製造技術、實現這些架構或硬體組件。

實際應用,尚有距離

也就是說,近傳感器與傳感器內計算方法,是實現智能傳感處理高效硬體的一種可能途徑。在傳感器端處直接處理數據,可提供改進的面積、時間和能量效率,並在實時和數據密集型應用中特別有益。

然而,在傳感器附近實現低級和高級的處理功能,需要開發先進的集成技術和新的計算算法;在傳感器內實現計算還需要開發具有新功能和新機制的設備、以及合適的算法。

雖然在傳感器計算方面顯示出潛力,但目前大多數設備都處於研究開發的早期階段,由於功能有限,僅限於特定的應用場景。此外,到目前為止,對於完整處理和與外圍控制的大規模集成只有有限的演示,而這對於傳感器處理架構的未來至關重要。同時,柴揚告訴 DeepTech,自動駕駛應該是比較好的切入口,一旦突破現在的 「瓶頸」,就可能會有更多的新的應用產生。

上海有一家叫芯侖科技的公司,他們研發的動態視覺傳感器(Dynamic Vision Sensor,DVS)就是應用在車輛上,採集圖像、然後做一些實時的分析。他們在這個領域做得是比較好的,用得就是近傳感器計算(Near-Sensor Computing),已經非常接近實用,在國內也是比較領先的。儘管柴揚團隊目前工作重心主要集中在視覺傳感器上,但是近傳感器與傳感器內計算方法也可以擴展到其他種類的傳感器,如聽覺、觸覺、味覺信號、化學信號甚至生物信號的傳感器。

玉汝於成,不忘初心

柴揚於香港科技大學電子工程系獲得博士學位;之後在史丹福大學開展博士後研究;後面在香港理工大學繼續電子器件方向的研究。

在談到成果落地的問題時,柴揚也提到,香港高校中有的老師做得非常成功,比如大疆創新、商湯科技和晶科電子都是從香港高校孵化出來的。談及此,柴揚也表示了對粵港澳大灣區未來發展的期待,「現在國家針對大灣區提出了一些新的政策,香港政府也推出了一系列的支持科創政策,整個科創生態肯定能夠變得更好一些,雖然這個過程可能是相對漫長的,希望最後的研究結果能夠解決目前存在的一些科學工程問題,可以產生一些切實可用的東西。 」

相關焦點

  • 港理工科學家發明近傳感器計算與傳感器內計算技術,讓邊緣計算更...
    而說到邊緣計算,就不得不提傳感器。當前的傳感器網絡中,節點數量增長非常迅速,傳感器終端和計算單元之間交換著大量冗餘數據,如何在處理大量數據的同時、還能降低功耗,是邊緣計算亟待解決的難題。  針對此,近日香港理工大學應用物理學系副教授柴揚發表在《自然?
  • 香港理工大學大幅提高近傳感器、傳感器內計算方法的計算效率
    該文作者、香港理工大學應用物理學系副教授柴揚博士在接受TechXplore採訪時說道:「物聯網上的傳感器節點數持續高速增加。到2032年,傳感器的數量將達到45萬億,相當於每秒能生成高達1020比特的信息。因此,有必要將部分計算任務從雲計算中心轉移到邊緣設備,減少能耗和時間延遲、節省通信帶寬並增強數據安全性和隱私性。」一、什麼是近傳感器計算、傳感器內計算?
  • 港理工最新研究成果:近傳感器/內計算技術大幅提高運算效率
    該文作者、香港理工大學應用物理學系副教授柴揚博士在接受TechXplore採訪時說道:「物聯網上的傳感器節點數持續高速增加。到2032年,傳感器的數量將達到45萬億,相當於每秒能生成高達1020比特的信息。因此,有必要將部分計算任務從雲計算中心轉移到邊緣設備,減少能耗和時間延遲、節省通信帶寬並增強數據安全性和隱私性。」一、什麼是近傳感器計算、傳感器內計算?
  • 基於邊緣計算的大規模傳感器高頻採集系統研究
    【關鍵詞】邊緣計算;大規模傳感器;高頻採集1 引言物聯網是通過智能感知、識別技術與普適計算、泛在網絡的融合應用,在5G的萬物互聯時代,物聯網要通過大規模的不同類型的傳感器去感知周邊物體和物理環境,為物聯網應用層的數據分析提供依據。
  • JITStack講解:什麼是邊緣計算?邊緣計算是靠近數據源的計算基礎
    進入數字產業轉型時代利用信息技術創新,製造企業開始提高績效和生產力水平。雖然雲計算是產業信息化轉型的主要推動因素,但邊緣計算正在迅速成為工業物聯網(IIoT)目標的關鍵部分,以加速數位化轉型。邊緣計算並不是一個新概念,但幾種趨勢已經結合在一起,創造了一個機會,幫助製造企業組織將大量基於機器的數據轉化為更靠近數據源的可操作智能端。什麼是邊緣計算?
  • MCU有AI,傳感器會ML?邊緣計算時代來了
    本次大會聚焦的3大專題「人工智慧與計算」、「工業與安全」、「雲技術與連接」,可以看到,隨著人工智慧(AI)、機器學習(Machine Learning)和物聯網(IoT)等新興技術應用的興起,ST在產品策略上也正與時俱進。
  • 邊緣計算與智能家居
    一方面,有了邊緣計算的支持,物聯網對設備的控制,就相當於人對於手的控制,可以直接通過大腦意識控制,因為當設備之間的聯動通過區域網內的邊緣計算實現時,邊緣計算內的邏輯在雲計算上早有備份。傳感器通過連接雲平臺、區域網將處理後的數據傳輸至智能終端,促使各個子系統做出適應環境的調整。智能家居傳感器以微型化、智能化、多功能化、網絡化等趨勢向前發展。未來,傳感存在於智能中,全屋智能會像空氣般存在,像呼吸般自然,用戶可以在不知不覺中感受到智能家居帶來的便捷化體驗。何為邊緣計算?
  • 更適合邊緣計算的基礎架構:超融合
    VMware是另一家高調宣布支持邊緣計算的公司,它主要是基於自己現有的技術,比如vSAN超融合存儲,vSphere和VMware的Pulse IoT Center,Pulse IoT Center為邊緣系統和網關提供管理、監控和安全,以及傳感器等連接設備。
  • 邊緣計算、雲計算、霧計算能為自動駕駛做些什麼?
    邊緣計算、霧計算和雲計算將在自動駕駛領域發揮什麼樣的作用?哪些任務交給邊緣計算,哪些交給雲端?在之前的文章中,曾多次提到過5G網聯技術將給自動駕駛帶來的巨大變化。與雲端相比,邊緣計算具備這七大優勢:延遲:毫秒級延遲高吞吐量:本地生成,近場傳輸數據簡化:末端自主分析,減少對上遊的依賴。
  • 一文了解邊緣計算和邊緣AI
    雲計算就好比章魚的大腦,邊緣計算就類似於八爪魚的那些小爪子,一個爪子就是一個小型的機房,靠近具體的實物。邊緣計算更靠近設備端,更靠近用戶。,但在邊緣執行計算可能更划算;可靠性:某個應用如果使用雲端,即使能從技術上解決帶寬和延遲問題,但到雲端的網絡連接並非一直可靠,而應用可能需要一直運作。
  • 邊緣計算是什麼?下一次信息技術的變革
    邊緣計算中的邊緣指的是網絡邊緣上的計算和存儲資源,這裡的網絡邊緣與數據中心相對,無論是從地理距離還是網絡距離上來看都更貼近用戶。邊緣計算則是利用這些資源在網絡邊緣為用戶提供服務的技術,使應用可以在數據源附近處理數據。如果從仿生的角度來理解邊緣計算,我們可以做這樣的類比:雲計算相當於人的大腦,邊緣計算相當於人的神經末端。
  • 乾貨丨邊緣計算應用、現狀及挑戰
    1.2 邊緣計算範例與邊緣計算類似的範例,如霧計算、移動邊緣計算等,雖然與邊緣計算不盡相同,但它們在動機、節點設備、節點位置等上與邊緣計算範例類似。協同邊緣計算是一種新的計算範例,它使用邊緣設備和路由器的網狀網絡來實現網絡內的分布式決策。
  • 對於邊緣計算的要求是什麼
    邊緣計算中的邊緣指的是網絡邊緣上的計算和存儲資源,這裡的網絡邊緣與數據中心相對,無論是從地理距離還是網絡距離上來看都更貼近用戶。邊緣計算則是利用這些資源在網絡邊緣為用戶提供服務的技術,使應用可以在數據源附近處理數據。如果從仿生的角度來理解邊緣計算,我們可以做這樣的類比:雲計算相當於人的大腦,邊緣計算相當於人的神經末端。
  • 邊緣計算和邊緣AI是什麼?兩者有什麼區別?
    事實上,當前邊緣AI晶片已不再是個小眾領域,包括谷歌、英偉達、英特爾、高通、華為、寒武紀、地平線均於近兩年推出邊緣AI晶片,AI晶片的戰火已經由雲端蔓延到了邊緣。qmaednc根據全球技術市場諮詢公司 ABI Research 的數據顯示:預計到2025年,邊緣 AI 晶片組市場的收入將達到122億美元,雲AI晶片組市場的收入將達到119億美元。
  • 邊緣計算總結 - CSDN
    邊緣計算正處於技術的研究熱點期,各大廠商、科研機構正在制定標準和規範,雖未達成共識,但國內外已形成多個產業聯盟,大力推動邊緣計算的標準和技術進步。邊緣計算是一種在數據源附近的網絡邊緣執行數據分析處理以優化雲計算 系統的方法,通過在數據源處或附近處執行分析和知識生成任務來減少雲端不必要的數據存儲以及傳感器和中央數據中心間傳輸所需的通信帶寬。
  • 邊緣計算的優秀用例和優勢
    這些情況需要邊緣計算提供低延遲和可靠性。Addressable Markets 公司首席戰略官兼The Analyst Syndicate(資深獨立分析師社區)成員Bruce Guptill 稱:「物聯網、傳感器、行動裝置和其他聯網設備的快速發展和部署意味著更多的數據,以及對邊緣計算的廣泛需求。」
  • 從雲計算+邊緣計算的角度看工業物聯網
    這是邊緣計算的作用。邊緣計算提供了一個提升作為IIoT的一部分,邊緣計算越來越重要。在資產或流程附近實施計算能力的第一線,可以對事件進行智能或協調的響應,並有助於減輕雲上的數據處理負擔。在可能具有數十,數百甚至數千個傳感器的系統中,來自這些傳感器的大部分數據可能具有最小的價值,僅僅報告「正常」操作條件。
  • 解鎖萬億級市場:邊緣計算那些不「邊緣」的投資機會
    更經濟:邊緣處理數據,大幅節省帶寬成本   更穩定:適配弱網環境,提供高可用服務 問題四:關鍵技術有哪些?虛擬化技術邊緣計算中,計算、存儲、網絡資源均採用了虛擬化技術,將硬體資源池化,並用軟體進行智能化調度。極大地方便了移動邊緣計算實現統一的資源管理;同時網絡虛擬化技術提升數據傳輸的智能化程度,減少傳輸時間。2.
  • 5G成為邊緣計算的較強推動力
    邊緣計算有很多術語,包括「邊緣雲計算」和「霧計算」。「邊緣計算」本身通常被描述為在本地伺服器上運行的應用,旨在讓雲進程更靠近終端設備。AI 加速器聲稱場景分割的時間少於 20µs,這與上述示例技術論文中引用的 Intel i7 CPU 在大約 20ms 內處理每個幀的速度相比,又有了顯著進步。顯然,如果邊緣計算表現的比雲計算更具優勢,那麼將計算全都轉移到邊緣設備中不是最好的解決方案嗎?很不幸,目前並不是所有的應用程式都是如此。
  • 什麼是邊緣計算,與雲計算有什麼本質區別?
    初看可能不是很明白,我們可以理解為邊緣計算是雲計算的一個逆操作,雲計算強調的是計算和存儲等能力從邊緣端或桌面端集中過來,而邊緣計算則是將這種計算和存儲等能力重新下沉到邊緣。隨著物聯網技術的發展,智能家居系統得到進一步的發展,而隨著智能家居設備的越來越多,且這些設備通常都是異構的,如何管理這些異構設備將會是一個亟待解決的問題,如設備的命名、數據的命名以及設備的智能聯動,並且,由於家庭數據的隱私性,用戶並不總是願意將數據上傳至雲端進行處理,尤其是一些家庭內部視頻數據。