一文了解邊緣計算和邊緣AI

這個9月，AI晶片獨角獸地平線發布了自詡最強邊緣AI晶片地平線「旭日3」，一時間引起轟動。相比第二代晶片，「旭日3」的AI性能上得到很大提升，只需在2.5W的功耗下，能夠達到等效5TOPS的標準算力。尤其是對應高端市場的旭日3M，有更強大的編解碼能力，強大的ISP效果令其極具競爭力。

這些年來，地平線的主要精力都放在旭日及徵程等系列，產品線主要聚焦在邊緣AI晶片這一領域，這也讓地平線成為全球估值最高的人工智慧晶片獨角獸。眾所周知，AI晶片分為雲端和邊緣端，雲端晶片要求高性能，邊緣端晶片由於應用場景眾多，對於環境和能耗等也有更多要求。事實上，當前邊緣AI晶片已不再是個小眾領域，除地平線以外，包括谷歌、英偉達、英特爾、高通、華為、寒武紀均於近兩年推出邊緣AI晶片，AI晶片的戰火已經由雲端蔓延到了邊緣。

根據全球技術市場諮詢公司ABIResearch的數據顯示：預計到2025年，邊緣AI晶片組市場的收入將達到122億美元，雲AI晶片組市場的收入將達到119億美元。邊緣AI晶片組市場將超過雲AI晶片組市場。首席分析師LianJyeSu表示：隨著行業的發展，企業越來越多的需要解決有關數據隱私、電源效率、低延遲和強大的設備上計算性能等問題，邊緣AI將是解決方案。預期在未來五年，AI訓練與推論會在網關或是各種邊緣裝置進行，甚至往下到傳感器節點。那麼，邊緣AI到底是什麼，靠什麼能解決這些行業痛點呢？

一、邊緣計算與邊緣AI

近年來，物聯網設備連接數呈現出線性增長趨勢。據Gartner預測，到2020年，全球物聯網設備的數量將超過200億臺。與此同時，設備本身也變得越來越智能化。人工智慧與物聯網在實際應用中的落地與融合，將推動人類社會進入「萬物智能互聯」時代，而隨之產生的數據也將呈井噴式爆發。

在過去的十年裡，雲計算成功地緩解了日益增長的數據所帶來的存儲、管理等問題，但是目前網絡帶寬的增長速度遠遠趕不上數據的增長速度，網絡帶寬成本的下降速度要比CPU、內存這些硬體資源成本的下降速度慢很多，同時複雜的網絡環境讓網絡延遲很難有突破性提升。所以，傳統的雲計算不能滿足對響應時間和安全性的高要求。以無人駕駛汽車為例，高速行駛的汽車需要在毫秒級的時間內響應，一旦由於數據傳輸、網絡等問題導致系統響應時間增加，將會造成嚴重的後果。

除此之外，雲計算還面臨帶寬不足的問題。如果將邊緣設備產生的大量數據全部傳輸至雲計算中心，會給網絡帶寬造成極大的壓力。例如，飛機波音787每秒產生的數據超過5GB，但飛機與衛星之間的帶寬不足以支持數據的實時傳輸。總之，單純依靠雲計算這種集中式的計算處理方式，不足以支持以物聯網感知為背景的應用程式運行和海量數據處理。在這種應用背景下，邊緣計算應運而生。它與現有的雲計算集中式處理模型相結合，能有效解決雲中心和網絡邊緣的大數據處理問題。

邊緣計算是雲計算的一種補充和優化。如果說雲計算是集中式、在「雲端」進行的大數據處理，那麼，邊緣計算則可以理解為邊緣側、靠近終端（例如手機、智能語音交互設備等）的大數據處理。在很多情況下，邊緣計算和雲計算是共生關係。有個形象的解釋，把雲計算和邊緣計算比喻成章魚的各器官，似乎更容易理解。作為自然界中智商最高的無脊椎動物，章魚擁有「概念思維」能力，與兩個強大的記憶系統分不開。一個是大腦記憶系統，大腦具有5億個神經元，另一個是八個爪子上的吸盤。也就是說，章魚的八條腿可以思考並解決問題。雲計算就好比章魚的大腦，邊緣計算就類似於八爪魚的那些小爪子，一個爪子就是一個小型的機房，靠近具體的實物。邊緣計算更靠近設備端，更靠近用戶。

具體而言，邊緣計算有幾個明顯的優點：

帶寬：邊緣設備處理了部分產生的臨時數據，不再需要將全部數據上傳至雲端，只需要傳輸有價值的數據，這極大地減輕了網絡帶寬的壓力，且減少了對計算存儲資源的需求；

延遲：在靠近數據源端進行數據處理，能夠大大地減少系統時延，提高服務的響應時間；

經濟性：某個應用如果使用雲端，即使能從技術上解決帶寬和延遲問題，但在邊緣執行計算可能更划算；

可靠性：某個應用如果使用雲端，即使能從技術上解決帶寬和延遲問題，但到雲端的網絡連接並非一直可靠，而應用可能需要一直運作。在這種情況下，就要使用邊緣計算了。例如人臉辨識門鎖，如果網絡連接斷開，你希望門鎖仍然正常工作；

隱私：某個應用如果使用雲端，即使能從技術上解決帶寬、延遲、可靠性和經濟性等問題，可能仍有許多應用出於隱私考慮而需要進行本地處理。邊緣計算為關鍵性隱私數據的存儲與使用提供了基礎設施，提升數據的安全性。

邊緣計算因為其突出的優點，滿足未來萬物聯網的需求，從2016年開始迅速升溫，引起全球的密切關注。當然，邊緣計算是一個持續迭代更新的概念，不同技術的融合，使得邊緣計算的內核不斷創新，例如人工智慧和神經網絡的應用，也正在賦能「邊緣AI」的落地。得益於雲端伺服器廣泛的數據計算能力，人工智慧和機器學習領域取得了巨大進步，發展出更加綜合性的人工神經網絡，以解決富於挑戰性的任務。隨著機器學習、神經網絡訓練等網絡架構和工具不斷適配、兼容到嵌入式系統上，越來越多的AI應用也可以直接在邊緣設備運行，於是「邊緣AI」成為了當下討論的熱點。

邊緣AI是指在硬體設備上本地處理的AI算法，可以在沒有網絡連接的情況下處理數據。這意味著可以在無需流式傳輸或在雲端數據存儲的情況下進行數據創建等操作。為了實現這些目標，邊緣計算可以在雲上靠深度學習生成數據，而在數據原點——即設備本身（邊緣）執行模型的推斷和預測。

目前，國際上尚未建立邊緣人工智慧的標準架構和統一算法，但各大廠商已經開始在相關領域進行探索。谷歌、亞馬遜和微軟等傳統雲服務提供商推出了邊緣人工智慧服務平臺，通過在終端設備本地運行預先訓練好的模型進行機器學習推斷，將智能服務推向邊緣。此外，市場上已經出現多種邊緣人工智慧晶片，如文章開篇提到的地平線旭日3、谷歌edgeTPU、英特爾NervanaNNP、華為Ascend910和Ascend310等。

二、邊緣計算與5G

邊緣計算與5G可以說是互為犄角的關係。

國際標準化組織3GPP定義了5G的三大場景。其中，eMBB指3D/超高清視頻等大流量移動寬帶業務，mMTC指大規模物聯網業務，URLLC指如無人駕駛、工業自動化等需要低時延、高可靠連接的業務。5G通信網絡更加去中心化，需要在網絡邊緣部署小規模或者可攜式數據中心，進行終端請求的本地化處理，以滿足URLLC和mMTC的超低延時需求，因此邊緣計是5G核心技術之一。

邊緣計算恰好可以解決5G三大場景面臨的問題。首先，邊緣計算設備將為新的和現有的邊緣設備提供連接和保護；其次，儘管5G將為基於雲的應用程式提供更好的連接性和更低的延遲，但仍然存在處理和存儲數據的成本。混合邊緣計算/5G解決方案將降低這些成本；最後，邊緣計算可以讓更多應用程式在邊緣運行，減短了由數據傳輸速度和帶寬限制所帶來的延時，並可對本地數據做初步分析，為雲分擔一部分工作。

另一方面，5G與邊緣計算一定程度上是相輔相成的。一方面，得益於5G自身發展，將對邊緣計算的發展起到直接促進作用；另一方面，由於5G對物聯網有促進作用，也將間接促進邊緣計算發展。

三、邊緣AI的使用場景

邊緣AI因其流量佔有少、時延低、隱私性強等特徵，在各行各業具有廣泛的應用前景。

智慧型手機

這或許是我們最熟悉的邊緣AI設備。Siri和谷歌助手是智慧型手機上邊緣AI的最好例證，因為該技術驅動了它們的語音UI。手機上的AI使得數據處理發生在設備（邊緣）側，這意味著不需要將設備數據交付到雲端。這有助於保護隱私和減少流量。

智慧家居

隨著物聯網的普及，家庭生活將引入越來越多的智能應用，如智能照明控制、智能電視、智能空調等，這些應用需要在家庭部署大量的傳感器和控制器。為了保護家庭數據隱私，數據處理必須依賴邊緣計算，使大部分計算資源被限制在家庭內部網關，敏感的數據被禁止外流。通過邊緣人工智慧優化室內定位和家庭入侵檢測，從而獲得比雲計算更高的準確性和更低延遲。例如AmazonEcho、谷歌Home等智能音箱被廣泛應用，它們接收用戶指令，並通過與第三方（服務或家用電器）的交互做出響應。然而智能音箱依賴雲端進行語音識別、語言語義的理解和處理，會造成家庭數據隱私洩露，而應用邊緣人工智慧則能夠有效解決這些問題。家庭娛樂也將從邊緣人工智慧受益，無需將用戶偏好上傳到雲端，系統可自行推薦個性化服務，讓用戶擁有更好的娛樂體驗。

無人機

無人機可以飛到人跡罕至的危險區域進行探險，並以特有方式拍攝鳥瞰圖像。無人機的應用正在擴大，其中一方面包括農業中的應用，而另一方面是在採礦業中應用。然而，這些設備必須能夠「電告總部（phonehome）」才能響應它們所收集的數據。邊緣計算使無人機能夠檢查數據並實時響應數據。例如，百度智能雲與麥飛科技一起將BIE-AI-Board（內置檢測模型和作業模型）部署在無人機上，利用高光譜及可見光攝像頭採集作物信息數據，將之上傳至BIE-AI-Board，由BIE-AI-Board加載檢測模型對作物病蟲害位置、等級進行判斷，並根據檢測結果調用作業模型控制植保機執行植保作業，現該方案已在國內多塊農田裡開始實施。

智慧農業

農業也將同樣受益於邊緣AI。除了無人機的應用，還有利用基於邊緣計算的農業物聯網實現精準農業的應用等。例如，一家總部位於澳大利亞的農業技術公司TheYield，它使用傳感器、數據和人工智慧幫助農民做出有關天氣、土壤和植物條件的明智決策。

公共安全

人臉識別系統是監控攝像頭的發展方向，它可以通過學習人臉識別人類個體。2019年11月，WDS有限公司發布了AI攝像頭模塊Eeye，通過邊緣AI實時分析面部特徵。對於邊緣計算的使用，即強化攝像頭終端的運算處理能，可讓其所搭載的人臉識別功能不再依賴雲端伺服器，避免耗費時間上傳圖像，節省了大量帶寬資源。而且通過在本地設備上直接完成臉部辨識，進而讓識別過程縮短至1.5秒內。

實時視頻分析也是邊緣AI最重要的應用場景之一。此前，視頻分析一般在雲端進行，面臨著高流量消耗、延遲大等問題。隨著邊緣計算的發展，可以將部分視頻分析工作轉移到邊緣節點進行。在末端，視頻採集設備負責視頻採集、壓縮和圖像/視頻預處理。在邊緣層，多個分布式邊緣節點相互協作。在雲端，由於邊緣節點的分布式模型訓練可能因其本地知識有限而未能經過良好訓練，當邊緣無法提供服務時，雲利用全局知識進行進一步處理，並幫助邊緣節點更新訓練模型。

Tractica的一份報告估計：到2025年，人工智慧邊緣設備出貨量將從2018年的1.614億臺增加到全球每年26億臺。就單位數量而言，頂級的人工智慧邊緣設備將包括手機、智能揚聲器、個人電腦/平板電腦、頭戴式顯示器、汽車傳感器、無人機、消費者和企業機器人以及安全攝像頭。可穿戴式健康傳感器、建築物或設施傳感器還將有更多人工智慧。

車聯網

車聯網通過將車輛互聯，提高安全性和效率，減少交通事故和避免擁塞。前期，蜂窩網絡、邊緣計算、AI都曾作為獨立的技術為車聯網服務。邊緣計算能夠為車聯網提供高速數據傳輸、低時延等服務，使得自動駕駛成為可能。AI更是被廣泛應用於智慧交通的各個領域。兩者結合將有利於進一步優化車聯網的性能，通過邊緣人工智慧實現車輛的精準定位、目標跟蹤、智能感知和決策。

醫療健康

健康醫療已經進入數據時代。健康意識的普及使得醫療器械和終端越來越多樣化，邊緣人工智慧將在智慧醫療領域有多個應用場景。首先是院前急救，在急診病人到達醫院或者兩個醫院轉移期間，目前的緊急醫療服務大多部署在雲端，容易受移動環境和極端天氣的影響和限制。邊緣人工智慧可以在救護車和醫院之間建立雙向實時通信信道，實現實時自然語言和圖像處理，提高及時性和效率。其次是智能可穿戴設備，目前的智能可穿戴設備受計算能力影響，只起到數據採集的作用。邊緣人工智慧在智能穿戴領域的研究正在進行，例如瓦倫西亞政治大學研究員賈米·安德列斯·林肯在可穿戴設備上部署邊緣AI監測人類情緒等。未來，將有更多輕量級智能算法在終端上進行，實時監測、分析和預測健康數據，幫助人類更好地了解自己身體狀況。

智慧城市

隨著城市規模的不斷擴大，數據呈現地理分布的特性，需要邊緣人工智慧模式提供對時延敏感設備的監控和智能控制。通過邊緣計算支撐智慧城市大規模基礎設施的計算和服務，可以實現終端設備的低時延應用，將時延要求高的任務部署在邊緣節點執行。通過AI來協同和調度城市基礎設施，應用到公共安全、健康醫療、城市管理、交通出行、智慧社區和其他領域，實現整個城市的資源最佳利用。

例如，關於交通擁堵問題，新加坡通過聯網運輸解決方案應對了巨大的交通挑戰。其智能交通系統（ITS）已經形成了電子道路收費的先鋒系統，隨著交通量激增公路收費也隨之增加。ITS還允許通過具有GPS功能的計程車提供實時交通信息，並整合公共運輸結構，同時也能夠使公交車更加準時。城市衛生條件也可以通過智能技術改善，如使用網際網路連接的垃圾桶或物聯網支持的車隊管理系統進行廢物收集和垃圾處理，或者是將傳感器技術應用於智能廢物容器，（它會自動感知什麼時候垃圾到達容器的頂部，從而及時通知城市環衛部門收集垃圾）。

製造業

在工業製造領域，AI和邊緣應用有望在智能工廠的發展中發揮越來越重要的作用。在工業4.0模式的推動下，下一代智能工廠將先進的機器人技術、機器學習技術應用於軟體服務和工業物聯網中，以提高產能和最大化生產效率。邊緣計算和人工智慧使用本地傳感器控制和管理輸出，能夠顯著地提高效率，減少誤差。邊緣系統可以在毫秒內響應輸入，要麼進行調整以修復問題，要麼關閉生產線以防止出現嚴重問題。

四、邊緣AI所面臨的挑戰

近兩年，邊緣智能產業生態逐漸構建，不過在形勢大好的背後，邊緣智能仍然面臨著各種各樣的難題。

其一，由於雲計算服務的下沉，有些流量直接通過本地邊緣智能平臺流出。在傳統核心網中，計算、控制、安全等均在核心網內部完成，如何對邊緣智能平臺的流量進行計費和控制，需要進行研究；同時邊緣智能在實際的網絡架構上有多種不同的部署規劃，比如部署在無線接入雲、邊緣雲及匯聚雲，而不同的架構所面臨的問題也略有不同。

其二，邊緣智能所服務的對象以及場景較為多樣化，如何使一套邊緣智能平臺適應多樣化的第三方應用，也是目前面臨的一個問題。

其三，因為業務的碎片化，邊緣智能可能針對單一場景或者兩三個場景進行部署，不僅需要在整個部署能力特性上進行明確定義，且需要考慮如何進行敏捷智能化的運維。

其四，如何更好地引入人工智慧，發揮邊緣計算的整體優勢有待研究。

其五，協調如何將邊緣智能平臺內部基於OpenStack的平臺管理子系統進一步輕量化，並考慮將一些微服務架構迅速地引入邊緣智能平臺，從而降低管理開銷。此外，邊緣智能的商業運營模式、部署位置、自愈和自動擴縮容等問題仍需要得到進一步的明確和解決。

當前，雖然邊緣智能仍處於發展初期，不過作為下一波計算浪潮，從通信行業、網際網路行業再到工業領域，普遍對邊緣智能將要發揮的重大作用寄予了厚望。邊緣智能作為使能5G三大典型應用場景的計算範式，把IT服務環境和雲計算能力擴展到了行動網路邊緣，必將與雲端智能協同助力各行各業的數位化轉型。隨著5G的普及，相信不久將看到全球邊緣AI服務成本的下降和需求的上升。

編輯：文婧

校對：林亦霖

聲明：本站轉載此文目的在於傳遞更多信息，並不代表贊同其觀點和對其真實性負責。如涉及作品內容、版權和其它問題，請在30日內與本網聯繫，我們將在第一時間刪除內容,本網站對此聲明具有最終解釋權。