5G時代的智能邊緣計算AI-EC平臺

2020-12-04 雷鋒網

雷鋒網按:本文作者吳強,雷鋒網專欄作者。

2017年9月初華為透露:首款搭載AI晶片的商務手機將於10月發布並提出:Mobile AI=On_Device AI + Cloud AI。無獨有偶,一周後蘋果公司也發布了搭載A11可以人臉識別的史上最貴手機。那麼On_Device AI將不可避免嗎?本文作者提出了另外一種選項供參考:Mobile AI=5G_Device + AI-EC。

所謂的智能邊緣計算(AI over Edge Computing, 以下簡稱AI-EC)是指在5G邊緣(可理解在基站端)提供各類AI推理算法資源和相應的可編程AI計算資源的公共平臺。其中的算法資源,主要以客觀世界目標的視覺識別,音頻識別以及自然語言處理為代表的通用類的AI推理算法軟體。而另一個可編程AI計算資源是由以GPU及Tensor RT為代表的軟硬體伺服器支撐平臺,用以承載和加速前者AI算法的推理計算,也可承載在線弱監督學習的訓練或其他GPU應用。這種AI-EC平臺所提供的AI推理服務如同在線函數庫調用一樣,你給它視頻或圖片,它返給你識別結果;你給他中文語音,它給你翻譯成目標語言。今後億萬個物聯網終端,智能穿戴等5G終端不必非得安裝智能晶片及相關軟體同樣可以擁有智能,因為通用的AI推理功能已從終端剝離並轉移到AI-MC平臺上。(說白了就是智能產業將被縱向分割:會做終端的專做終端,懂算法的專做算法,5G將成為產業應用上下遊的總線紐帶)

一.AI-EC的架構

二.AI-EC的功能

深度學習的推理服務。霧智能終端將視頻,音頻,語言等上傳至AI-EC 平臺,由其平臺上相關已訓練好的推理模塊進行推理,然後將結果反饋給霧智能終端。

高性能計算池服務。很多對GPU依賴的應用可以不受時間、空間及移動速度的限制。例如現場指紋推理,哈希算法(對加解密和區塊鏈的支撐),快速傅立葉變換,蒙特卡羅等等。

「串流」雲遊戲服務。5G時代的雲遊戲市場將會進一步增大,玩家不必擁有獨立顯卡,也可以通過「串流」黑科技來感受類似效果的雲遊戲。AI-EC的雲遊戲模塊可以根據玩家的操控將遊戲效果渲染成視頻流下推給玩家的5G終端,玩家不受地點限制可以在高鐵地鐵上。例如GeForce Now雲遊戲,其官方建議20Mbps則可實現720P畫質、60fps幀速;除此之外,網絡時延需小於60ms

視頻業務審核服務。5G時代手機戶外現場直播重大活動或事件將成為可能。而直播視頻中是否有不合法的內容(如暴力,色情,極端宗教及敏感議題等)必須藉助AI來實施審核並採取相應措施。

VR等實時渲染服務。隨著渲染需求的不斷加大以及VR/AR等應用的日益普及,坐在飛速行駛的高鐵上也可以感受VR,可以即時渲染出個性化產品設計效果,裝修設計效果等,影視短片的後期效果等。例如可以即時渲染出女士本人穿上網購服裝的效果

三. AI-EC的特點

a.網絡時延優勢:邊緣位置優勢保證了時間敏感的實時類應用的AI推理時延要求。

b.網絡分布優勢:AI-EC讓廣泛分布的推理申請在末端就得到結果,既減少了網絡流量,又降低了雲中心集中推理的計算壓力。例如上萬個監控視頻的推理需求,動態應急布設監控及無人機監控等。

c.智能終端減負:物聯網、智能穿戴等終端的體積,重量,功耗,成本以及價格都將因此而降低,同時也降低了終端的研發門檻,有利於5G終端的廣泛普及。

d.產業布局靈活:人工智慧的各種算法發展日新月異,組合千變萬化,研發的人員及硬體成本越來越高,這些將由AI-EC營運商解決。AI應用產業被縱向分解成算法服務商和終端供應商。

e.非商業屬性:AI-EC平臺一般將由國有控股的電信運營商來承建,其公共屬性有利於將人工智慧服務作為像電力、天然氣和通訊網絡一樣的市政設施供應給千家萬戶。有利於政府、教育、醫療,軍工等公共機構充分利用AI-EC平臺上的算法資源和計算資源,有利於相關部門對人工智慧產業發展進行規劃,引導,管理及法律法規制定等,有利於將5G與AI-EC整體打包像高鐵一樣輸出給其它國家。

人臉識別鑑權技術:目前我國公安部相關研究所已立項「多維身份可信認證系統」,當海關、機場,車站,酒店,銀行以及特殊單位等機構需要鑑權時,應有統籌法律法規約束。

醫學影像輔助診療:同樣應由國家相關部門在大數據標註與訓練,隱私保護,相關識別技術的商業化與非商業化推廣及醫院相關區域的AI-EC覆蓋等,應有統籌法律法規約束。

其它公共事業的AI部署:如AI教學、AI職業培訓、科研院所的公用計算資源部署、AI市政公共設施、智能交通管理、AI家庭設施等部署,管理,法律法規約束等。

四.AI-EC帶來的選擇

霧智能終端與硬智能終端的選擇:前者適合在網絡覆蓋良好的城市區域內使用通用類的、複雜度高的、變化快的、對功耗和成本要求比較苛刻的終端AI智能應用;後者允許在網絡覆蓋不確定的鄉村,山區,荒漠,海上等區域,使用AI需求相對固定的、變化少的以及對時延要求極端苛刻的AI智能應用。

AI-EC霧端還是商業雲端的選擇:對時延要求高的,集中推理壓力大的,業務敏感或不適合在商業雲使用的應用可選擇前者。

第四次(人工智慧)產業革命的春風已經撲面而來,它開始漸漸地衝擊著各個傳統行業甚至是人類文明。東西方的主要高科技巨頭都在AI計算資源和AI人才資源爭奪上以及AI產業事實標準的制定上豪賭般地投入,無疑他們是有遠見的。作為經濟大國的中國在4G時代已通過網購,手機支付,共享單車等業務嶄露頭角,那麼在5G時代是否可以從頂層設計來與時俱進,通過AI-EC來推動人工智慧、物聯網、智能穿戴等終端在各行各業的普及,從而提高效率或解決原來解決不了的問題,幫助中國早日成為科技強國並引領人類在AI領域的發展!

本文僅代表個人觀點,意在拋磚引玉。作者才疏學淺,之所以願意獻醜撰寫本文是因作者認為:人工智慧的時代更需要跨行業交流及腦力激蕩的,如能引發其它相關行業人士的思考,則達到了本文的目的。

相關焦點

  • 5G浪潮滾滾而來,美國究竟有多少邊緣計算公司?
    比如,海上石油鑽井平臺可以利用邊緣計算架構實時收集、監視和處理各種環境因素的數據,而不必依賴於遠程數據中心基礎設施。4、金融領域在智慧型手機成為我們每個人生活必需品的時代,銀行機構正將邊緣計算技術與智慧型手機應用程式結合起來,以更好地針對客戶提供服務,甚至還可以藉助邊緣計算架構為自動取款機和自助服務臺提供收集和處理數據的能力,使它們反應更快以提供更多人性化的服務功能。
  • 微軟收購5G邊緣計算公司,谷歌發布全球移動邊緣雲平臺GMEC
    邊緣計算社區了解到,Affirmed Networks成立於2010年,擁有500多名員工,並籌集了超過1.5億美元,其中包括2019年2月的3800萬美元融資。在業務上,Affirmed Networks主要產品是虛擬演進分組核心技術,可為運營商交付各種服務,包括消費者,物聯網,專用LTE,Wi-Fi,GiLAN,VoLTE,CUP,固定無線,邊緣計算和5G服務。Affirmed公司專注於5G技術和邊緣計算業務,對於想要進軍電信業務的大型雲服務提供商微軟來說可謂是一個十分理想的收購目標。
  • ...邊緣計算公司Affirmed Networks;谷歌發布全球移動邊緣雲平臺GMEC
    產業網際網路(Industrial Internet)是從消費網際網路引申出的概念,是指傳統產業借力大數據、雲計算、智能終端以及網絡優勢,來幫助幫助傳統產業進行轉型升級。目前,以BAT為首的科技巨頭都在著手布局產業網際網路。
  • 悉見劉洋:三維理解與重建是智能交互時代的基石
    在自動駕駛和機器人行業已經出現不少佼佼者,如Waymo、drive.ai、蔚來汽車等,用三維視覺與高精度圖服務賦能給汽車和機器人,解放人在通勤和工程作業中的勞動力。 但我們所工作和生活中的絕大場景,如辦公室、商場、景區、展館等,無法用昂貴笨重的毫米波雷達等設備解決空間計算問題,這就需要消費級的三維智能技術,也是悉見的創立初衷。目前,我們正向三維智能時代邁進。
  • 邊緣計算時代下FPGA晶片的正確打開方式
    打開APP 邊緣計算時代下FPGA晶片的正確打開方式 佚名 發表於 2019-11-07 14:46:04 (文章來源:與非網) 從業者認為,5G時代和工業領域最相關的技術就是邊緣計算。
  • 2020GSE「5G時代的智慧教育」論壇舉行,發布5G智慧教育雲平臺
    2020GSE「5G時代的智慧教育」論壇舉行,發布5G智慧教育雲平臺 2020-08-22 12:02 來源:澎湃新聞·澎湃號·政務
  • 英特爾「造路」:不僅邊緣計算、自動駕駛,標準化問題我也包了
    」項目,該項目通過搭建開放的技術平臺,從而實現智能交通標準建設。 據介紹,智能交通研究院將通過聚焦和打破智能交通邊緣計算平臺、智能交通互聯繫統等智能交通各個環節的技術瓶頸,實現智能交通領域的技術突破並推動智能交通的落地進程。 此外,智能交通研究院還將重點關注智能交通的標準化問題,探索實現不同系統及不同車輛間的互聯互通,並最終實現降低交通擁堵、提升道路和出行安全水平的目標。
  • 智能早新聞:3D縫紉機器人面世、少林寺步入5G時代……
    智能早新聞,盡覽天下事。2019年6月20日,智能製造網為您帶來今日早間資訊,涵蓋前沿科技、智能製造等諸多領域熱點話題,讓您能更快洞察行業風向、發現市場商機。新聞速覽如下:兩家中國自動駕駛公司獲加州許可當地時間6月18日,小馬智行(Pony.ai)和AutoX(Auto.ai)在同一天獲得由美國加利福尼亞州公用事業委員會頒發的向公共乘客提供自動駕駛服務的許可。
  • 助飛李彥宏的智能革命,百度智能雲成AI工業化加速引擎
    他現場公布了百度智能雲的最新成績單:過去一年,以ABC及」雲+AI」為核心戰略,百度智能雲的用戶數、收入翻倍增長,流量和伺服器三倍增長,成為中國增速第一雲廠商。小wifi注意到,在今天的峰會上,百度發布了百度崑崙雲伺服器、CDN邊緣計算節點BEC、邊緣AI伺服器、百度機器學習BML4.0、物流地圖等眾多重磅產品。其中,許多產品已經成功運用到實踐中。
  • 邊緣計算概念股嗨翻天 產業規模化應用尚需時日
    消息面上,邊緣計算在2019年MWC上成為火熱話題。運營方面,中國移動表態,2019年將評估100個部署邊緣計算的試驗節點,引入100個邊緣計算合作夥伴助力商用落地。同期,中國聯通聯合華為發布了邊緣計算白皮書,並承諾2019年投入數十億資金用於邊緣計算全網規模部署。運營商背後的設備商,華為及中興通訊紛紛推出邊緣計算解決方案。
  • CPDA數據分析師:如何用簡單的英語解釋邊緣計算
    要使邊緣設備變得智能,他們需要處理所收集的數據,及時分享見解,並在可行時採取適當的行動,邊緣計算是使邊緣設備執行此操作而無需將數據傳輸到其中的科學,另一個伺服器環境,換句話說邊緣計算使數據和計算最接近交互點,如果我們考慮一個輪輻模型,那麼雲就是中心,而輻條外部的一切都是邊緣,這一切都不在雲中, 如果我們考慮一個輪輻式模型,那麼雲 就是中心,
  • 描摹AI+5G全智能時代大圖景 | 2019中國人工智慧高峰論壇成功召開
    今年6月6日,工信部向中國移動、中國聯通、中國電信和中國廣電發放5G商用牌照,我國正式進入5G商用元年,一個AI+5G的全智能時代已經到來。5G 連接+AI 賦能為全智能時代帶來更宏大的願景、催生更多的應用場景。智能科技的潛力和能力正被進一步激發和釋放。
  • 章魚的大腦與八個爪子 趣說邊緣計算
    這兩年雲計算、邊緣計算這樣的詞彙總是在各種文章中出現,雖然頻頻出現,但很多網友還是不太了解它們的真實內涵,那我們今天就來趣味解讀下什麼是邊緣計算。    我們一個大家都熟知的動物章魚來做比喻,雲計算就相當於是章魚的大腦,邊緣計算就相當於章魚那些小爪子,一個爪子就是一個小型的機房,靠近具體的實物。邊緣計算更靠近設備端,更靠近用戶,以高中政治的一句話解釋就是整體與局部的關係。
  • 宏電打造AIoT時代自主可控物聯網智能系統
    5G網絡工業物聯網,行業用戶從功能終端進入智能終端時代。,使邊緣計算應用快速地開發和部署。在滿足最小根據開放和使能不同的系統特性,可以快速開發出不同場景的產品,例如邊緣工作站-邊站、工控機IPC、工業網關、智能路由器。
  • 寒武紀籤下3億智能計算項目 AI+IDC驅動多元增長
    來源:時刻頭條根據市場調研公司Tractica的研究報告,人工智慧晶片的市場規模將由2018年的51億美元增長到2025年的726億美元,年均複合增長率將達到46.14%。因此,許多公司都在努力開發人工智慧晶片。
  • 5G加持智能家居時代,智能晾衣機的突破口在哪裡?
    從品牌+營銷的力度來看,是利好早在1994年在凱文·凱利 著作《失控》一書中就提到過,萬物物聯時代終會到來,現在不僅到來了,隨著智能家居概念走俏,家庭終端產品越來越多。比如智能門鎖,智能晾衣器,智能電視電視等等太多的產品充斥著市場。
  • AI企業快速發展 智能計算機需求井噴
    在其近日召開的新聞發布會上,專家指出,以超級智能計算機為標杆的智能計算機產業已成為國際科技和產業競爭的焦點。目前整個計算系統正邁向人工智慧時代。那麼,未來的計算系統會是什麼樣的呢?「它將從目前以臺式機、伺服器為核心逐漸過渡到以網際網路、大數據和人為主的手機終端,即人機物三者融合的計算系統。並且三者間的功能區分不會特別明顯。」
  • 人工智慧即將帶領我們進入下一個時代?
    當然,在自動駕駛和機器人行業已出現不少佼佼者,如Waymo、drive.ai、蔚來汽車等,用三維視覺與高精度圖服務為汽車和機器人賦能,解放人在通勤和工程作業中的勞動力。但我們工作和生活中的絕大部分場景,如辦公室、商場、景區、展館等,無法用昂貴笨重的毫米波雷達等設備解決空間計算問題,這就需要用到消費級的三維智能技術。二、三維視覺與空間計算1.
  • 專訪百度地圖李瑩 5G時代出行更智能
    作為新一代人工智慧地圖的領先者,百度地圖也參加這次關於未來5G產業的大會,百度地圖事業部總經理李瑩發表了題為《新一代人工智慧地圖:5G時代的領跑者》主題演講,李瑩表示,「進入5G時代,地圖產品會趨向更加精細化、真實化、智能化,5G與人工智慧已經呈現深度融合的態勢,未來必將讓智能出行擁有更大的想像空間」。
  • 多面發力 寒武紀拿下3億智能計算中心項目
    寒武紀在智能晶片領域的定位則十分明確,其瞄準的是通用型智能晶片。寒武紀面向雲端、邊緣端、終端的三個系列智能晶片與處理器產品,通過共用相同的自研指令集與處理器架構,共用相同的基礎系統軟體平臺,實現了從通用型智能晶片到雲、邊、端通用生態的全面覆蓋。