地平線張永謙:AI在邊緣側落地背後的思考

2020-11-23 國際電子商情

「邊緣側智能設備大規模爆發的趨勢，使數據成為如今AI晶片領域最大的挑戰。」2019年11月7日，在由ASPENCORE《電子工程專輯》、《國際電子商情》和《電子技術設計》主辦的「2019全球雙峰會」上，地平線副總裁&AIOT晶片方案產品線總經理張永謙以「邊緣AI晶片賦能行業，共建普惠AI時代」為題，介紹了地平線機器人在邊緣AI晶片以及解決方案，以及地平線對AI在邊緣側落地背後的思考。izTesmc

數據顯示，目前在邊緣側，99%的數據都是沒有被經過智能化處理或者是結構化處理的，而這些沒有被利用起來的數據就成為了垃圾數據。如果把這一部分數據送到雲端進行智能處理，則需要付出非常大的代價，這其中不僅包括傳輸帶寬，還有雲端為處理這麼多海量數據所付出的代價。izTesmc

此外，5G大潮已開始在中國落地，5G對於單位面積之內的設備的接入數量，包括接入帶寬比4G高了一個量級，這也進一步加劇了邊緣側數據和比較有限也比較難以實現的骨幹網處理能力之間的矛盾。izTesmc

因此，能夠處理上述矛盾，且具有非常好的隱私保護性的邊緣計算便成了大勢所趨。izTesmc

在邊緣側如何快速智能處理大量數據？

在邊緣側做快速智能處理大量數據，是當下主攻AI晶片和計算晶片領域的玩家們集中攻堅的難題。而邊緣側的AI晶片也已成為市場非常搶手的產品，僅僅在國內範圍內，對外宣稱做AI晶片的公司就已達到50-100家的規模。izTesmc

張永謙表示:「地平線從成立之初到現在，對於AI晶片的看法與傳統晶片公司的看法是非常不一樣的，我們的理念首先是軟硬結合。傳統的半導體講的幾個參數無疑就是PPA：功耗、性能和成本。智能時代，光靠這幾個參數是不夠的，還需要更多的參數綜合的能量什麼是好的AI晶片。」izTesmc

據了解，目前市場上常見的基本都是在大力宣傳單位面積下的功耗，以及晶片能所提供的峰值的計算能力，如一個晶片宣稱是1T或者是4T。但張永謙認為，這樣還不夠：「就像一個處理器一樣，它大部分處理的時候，處理單元是空閒的，這個只是空耗和性能的浪費」。izTesmc

張永謙表示:「我們要看第二個重要指標，就是在峰值算力典型場景的計算情況下的有效利用。有效利用率之後還不夠，因為現在要面對的是AI場景，這個場景其實是非常複雜的，還要再看在有效的計算能力輸出的情況下，你能達到對複雜場景處理的效果。把這幾個參數相乘，才能衡量邊緣側AI晶片最客觀的指標。」izTesmc

地平線不止一次地在公開場合表示，未來人工智慧的競爭一定是「軟硬結合」，要想真正的做好軟體，一定要做好硬體。地平線的晶片在設計之初，也是先有軟體，再有硬體。izTesmc

據張永謙介紹，地平線的一款處理器，在沒有做任何優化的情況下，對720P圖像做AI處理，它的計算資源利用率可以達到33.9%，每秒處理9.36幀，比通用GPU處理器的利用率高不少，即便如此，地平線仍在進一步探索。izTesmc

izTesmc

中間的彩色條是處理單元，上下是存儲單元izTesmc

左圖顯示，在沒有經過軟硬結合優化前，計算單元是被不停的打斷，需要頻繁的讀取外部的存儲，頻繁往裡輸數據。右圖則是經過軟硬結合的優化之後，計算的有效利用率被大大提高了，計算單元利用率可以達到85%，幀率處理速度達到了24幀/秒，在大大降低跟外部存儲交換頻率的同時，效率得到了大大的提升，地平線這就是地平線的「軟硬結合」。izTesmc

張永謙表示：「也正是因為這一點，過去40年人類的快速發展重要退守就是摩爾定律，但是摩爾定律更多是強調著硬體創新，是工藝。我們的理念是在傳統摩爾定律即將走到盡頭的時候，通過軟硬結合的方式可以繼續推動摩爾定律，在下一個20年仍然快速的發展。」izTesmc

AI晶片企業如何應對AIoT碎片化挑戰？

AIoT覆蓋範圍包括百行百業，因此它的場景呈現大量碎片化的特徵，無論是世界五百強還是中國的五十強這種行業巨無霸企業，都很難應對這種大量碎片化的高難度挑戰，那麼AI晶片企業要如何面對這種小市場量、大量碎片化的挑戰呢？張永謙從五個層面進行了分析：izTesmc

1、AI產品形態種類非常多。有攝像頭、帶屏設備、機器人、智能家電、邊緣側計算設備。這麼多AI產品形態如何的產品化，並實現很好的AI能力?非常不容易。izTesmc

2、圖像和場景的效果繁雜。線下AI面臨的挑戰是每個場景不可複製的，今天解決方案也好、場景也好，在這裡可以很好的輸出結果，但是換了一個天氣、換了一個場景，很可能就不靈了。怎麼樣把方案做到更加普世化?這是非常大的挑戰。izTesmc

3、怎麼樣快速的開發上層智能應用，真正把AI能力服務落地。izTesmc

4、如何快速把硬體做出來。地平線在落地的過程中發現，原來做硬體的廠商以及做軟體服務的廠商，甚至是做系統集成的公司都在進入這個行業，並迫切希望把智能化的產品做出來，再跟原有的能力結合。在這種四面八方的企業都搶食蛋糕的場景下，怎麼樣快速把硬體做出來，這是很多創業公司甚至是老牌公司巨大的挑戰。izTesmc

5、如何做到完整的系統集成。地平線推出旭日1.0時，主推的是AI晶片及基礎算法，但後來發現發展遇到瓶頸，怎麼解決呢?張永謙表示：「我們把解決方案做得更加重。首先是怎麼應對多樣化的產品形態。我們經過思考，挑選了其中3種可能是在未來2-3年最先落地、量最大的產品，最先是智能RPC、帶屏近距離交互產品和可以克服前端不確定性的邊緣計算核，我們選擇了這三種智能產品的形態作為開發解決方案的入手點。選取了之後再就是軟體架構，並編成統一的框架，方便我們做解決方案的開發，也能讓開戶在不同的產品形態上快速的遷移，同時支持端和邊緣。」izTesmc

面對以上五大挑戰，地平線提出了「底層賦能」的理念，在底層賦能的上面是下了非常多的功夫，對外不僅宣稱是AI晶片公司，更本質是算法+晶片，軟硬結合的底層，包括解決方案服務客戶。izTesmc

而在面對非常多的行業落地的應用、項目等機會的誘惑下，地平線也堅持一個理念，張永謙表示：「我們不做行業應用，並不和所賦能的合作夥伴、客戶競爭，就是把底層的東西做得更好，然後更好的賦能他們，讓AI特別是邊緣側的AI實現落地，最後實現普惠AI的效果。」izTesmc

結語：AI晶片+算法基礎，加速邊緣側AI落地

2015年7月14日，中國第一家AI晶片公司地平線成立，率先提供軟硬結合BPU架構。也是全球第一家在臺積電實現了流片的AI晶片公司。izTesmc

2017年底，地平線發布了中國第一款AI晶片，它有兩個系列，一個是面向自動駕駛的徵程系列，另一個是面向AIot的旭日系列。izTesmc

2018年4月徵程晶片登陸美國頂尖Robotaxi車隊，到2018年年底，旭日一代落地首年，全球出貨量達到6位數。izTesmc

今年8月30日地平線發布了第一款車規級晶片——徵程二代，張永謙在ASPENCORE 2019 全球CEO峰會現場透露，明年和後年會地平線將陸續發布J2A和J3，真正意義上車規級的智能駕駛晶片。izTesmc

10月29日，地平線推出採用28納米工藝的旭日二代邊緣AI晶片及一站式全場景晶片解決方案，瞄準AIoT智能應用市場。張永謙在ASPENCORE 2019 全球CEO峰會現場表示，地平線將於明年發布第三代旭日產品。izTesmc

除了設計AI晶片之外，地平線也在花非常大的資源和力氣來做工具鏈，張永謙表示：「工具鏈就是讓有能力的客戶有自己的數據，可以在地平線已經提供的一套標準的、軟硬結合的AI晶片的框架上，包括提供的基礎算法模型上，他們可以針對自己看重的差異化的場景、垂直化的場景，用自己的數據訓練自己的模型，就是把地平線提供的東西和差異化的內容結合在一起，這樣的效率更高。」izTesmc

此外，張永謙表示，地平線在AI晶片+算法基礎上做了更進一步的努力，針對典型行業的典型場景做了大量的解決方案，通過這個方式大大加速了邊緣側AI落地。izTesmc

相關焦點

  • 地平線推二代邊緣晶片,詳解AIoT落地綜合打法
    三、一站式全場景邊緣AI晶片解決方案隨後，地平線副總裁、智能物聯晶片方案產品線總經理張永謙發布旭日二代AI晶片及解決方案Horizon Hero，包括三類邊緣AI晶片解決方案：地平線HeroSights智能攝像機解決方案、地平線HeroSpark通行門禁考勤方案、地平線HeroStream智能分析盒解決方案。
  • 地平線榮獲 ASPENCORE 年度新銳公司和年度創新人物獎項
    11月7日,ASPENCORE第二屆"全球CEO峰會"在深圳舉辦,大會官方公布了全球電子成就獎名單,地平線與 ARM、英偉達、紫光展銳等優秀晶片企業榮獲該獎項。憑藉在邊緣 AI晶片領域的突出成就,地平線在本次峰會上榮獲兩項大獎——地平線公司榮獲年度新銳公司獎項、地平線創始人兼 CEO餘凱獲得年度創新人物獎項。
  • 邊緣計算迎來「新風口」,AI晶片創企如何把握機會?
    5G網絡下的數據量是非常巨大的，但骨幹網絡擴容成本高、延遲大，容易導致數據在邊緣側形成「堰塞湖」。這意味著，數據不能全部上傳到雲端再進行處理，無論是出於隱私保護，還是實時處理的要求，都不得不在邊緣側就對數據進行處理。這時，邊緣計算將勢在必行。
  • AI風口:地平線完成超5億美元C輪融資,將加速汽車智能化落地
    晶片作為人工智慧時代的制高點，從雲端到網絡再到邊緣側，對AI晶片需求強勁，不僅英偉達受益於人工智慧晶片需求劇增帶來迅猛發展，在國內也湧現出寒武紀、地平線等AI晶片獨角獸，與CPU、GPU等傳統型晶片相比，寒武紀智能晶片是面向人工智慧領域而專門設計的晶片。作為國內AI晶片獨角獸，當前市值為586億元。對於地平線來說，其AI晶片商業落地聚焦在智能駕駛與智能物聯網兩條賽道上。
  • 一文了解邊緣計算和邊緣AI
    這個9月，AI晶片獨角獸地平線發布了自詡最強邊緣AI晶片地平線「旭日3」，一時間引起轟動。這些年來，地平線的主要精力都放在旭日及徵程等系列，產品線主要聚焦在邊緣AI晶片這一領域，這也讓地平線成為全球估值最高的人工智慧晶片獨角獸。
  • AI晶片公司地平線融資6億美元
    來源:北京日報昨日，人工智慧晶片技術創業企業地平線宣布獲得由SK中國、SK Hynix以及數家中國一線汽車集團與旗下基金聯合領投的6億美元左右B輪融資，估值達30億美元。本輪融資後，地平線將繼續投入更多資源用於產品研發，其車規級計算平臺和第三代晶片架構有望在年內取得突破性進展。至此，2018年全球排名前三的半導體企業中有兩家成為了地平線重要股東，國內數家一線汽車集團給予其上億美元投資，成為中國車企目前在人工智慧領域最大規模的投資。
  • 邊緣計算和邊緣AI是什麼?兩者有什麼區別?
    事實上，當前邊緣AI晶片已不再是個小眾領域，包括谷歌、英偉達、英特爾、高通、華為、寒武紀、地平線均於近兩年推出邊緣AI晶片，AI晶片的戰火已經由雲端蔓延到了邊緣。qmaednc根據全球技術市場諮詢公司 ABI Research 的數據顯示：預計到2025年，邊緣 AI 晶片組市場的收入將達到122億美元，雲AI晶片組市場的收入將達到119億美元。
  • 地平線車規級AI晶片上車,成為中國AI界「前裝量產第一芯」
    這裡，就是地平線徵程二代發揮作用的地方。首款國產車規級AI晶片的第一次前裝落地地平線徵程二代，是長安與地平線聯合開發的智能駕駛艙NPU計算平臺的核心計算單元。而在落地方面，地平線更是先行一步。今年6月，長安UNI-T就會量產上市，徵程二代將正式成為全球首個上車量產的邊緣AI晶片，「前裝量產第一芯」名副其實。雖然這只是地平線和長安的一次合作落地，但對於整個行業來說意義不小，其意味著車規級AI晶片的前裝量產元年正式到來，同時也代表了自動駕駛核心技術的國產化。
  • 地平線車規級AI晶片上車,成為名副其實的中國AI界「前裝量產...
    這裡，就是地平線徵程二代發揮作用的地方。首款國產車規級AI晶片的第一次前裝落地地平線徵程二代，是長安與地平線聯合開發的智能駕駛艙NPU計算平臺的核心計算單元。2019年8月，地平線正式推出徵程二代，並宣布其通過汽車電子可靠性標準AEC-Q100認證。
  • 專訪地平線創始人:國內首款車規級AI晶片是如何煉成的?
    「車載AI晶片是人工智慧行業的珠穆朗瑪，也是自動駕駛實現大規模落地的前提。此次地平線率先推出首款車規級AI晶片不僅實現了中國車規級AI晶片量產零的突破，也補齊了國內自動駕駛產業生態建設的關鍵環節。」8月30日，2019世界人工智慧大會期間的一場發布會上，地平線創始人餘凱在介紹公司發布的新款AI晶片時這樣說到。
  • 深淵地平線打AI武器選擇
    深淵地平線打AI武器怎麼選？打AI武器怎麼設置打？遊戲中我們要是想快速的打敗AI的話那麼選擇適合的武器還是比較的重要的，可能選錯了的話對我們的傷害會有一定的影響的呢，為了不影響所以大家有點糾結了，要是不會的話下面由小編為大家帶來詳細介紹吧！
  • 地平線四度亮相CES,車規級AI晶片徵程二代引爆多項量產合作
    拉斯維加斯2020年1月8日 /美通社/ -- 在拉斯維加斯舉行的2020年國際消費電子展（CES）上，邊緣 AI 晶片全球領導者地平線攜中國首款車規級AI晶片徵程二代、ADAS 解決方案、新一代Matrix自動駕駛計算平臺及一系列智能駕駛落地成果參展，向參展觀眾展示了一個多層次
  • 解鎖萬億級市場:邊緣計算那些不「邊緣」的投資機會
    來源：虎嗅網本文作者：朱彤，編輯：尹悅璇、何麗芯，原文標題：《解鎖萬億級市場，邊緣計算不「邊緣」 | 華映洞察》，題圖來自：視覺中國萬物互聯時代，邊緣計算離我們很遠嗎？從VR/AR遊戲、超清視頻，到遠程醫療和自動駕駛，流暢低時延的智能生活背後，都有它的身影。
  • 為何探討AI晶片落地時軟硬融合被大咖們頻頻提及?| CCF-GAIR 2019
    地平線黃暢：AI計算的第一要務是追求極致的能效比和性價比地平線聯合創始人兼副總裁、深度學習專家黃暢帶來了《打造極致效能的AI計算平臺，構建安全、美好的智能世界》的主題分享。他指出，AI普惠化和民主化的背後，數據計算帶來了巨大的能源消耗。
  • 地平線推新一代「天工開物」開發平臺,讓AI像「水電煤」一樣普及
    在基礎算法層面，地平線則是將經典算法在開源數據集上訓練出SOTA(state-of-the-art)精度，並完全開源讓合作夥伴復現，同時可在地平線AI晶片上快速驗證性能。如同搭積木一樣，合作夥伴可靈活組合產品算法，高效組成適用於各類應用場景的算法解決方案，全面降低邊緣AI應用的開發門檻。
  • 中國首款車規級AI晶片「地平線徵程2」出貨量超10萬
    12月1日，國內人工智慧晶片公司地平線對外公布，中國首款車規級人工智慧晶片地平線徵程2出貨量已超10萬，搭載此款晶片的汽車實現了L2+級自動駕駛。在第七屆世界網際網路大會上，這款晶片還入選「世界網際網路領先科技成果」。
  • 地平線聯合中興子公司 開發智能駕駛方案
    【太平洋汽車網 行業頻道】近日，專注於人工智慧晶片和邊緣人工智慧計算的初創企業地平線與中興通訊旗下英博超算籤署戰略合作協議，將合作開發L1-L4級別的智能駕駛解決方案（ADAS），並計劃於2020年在量產車型上適配。
  • 新基建浪潮下AI晶片的絕佳機遇 | CCF-GAIR 2020
    在「雲-邊-端」智能工廠領域，英特爾與某著名大型電池製造企業的缺陷檢測與分析系統應用於生產流水線，通過邊緣和雲端的完整架構實現，生產質量達到1PPM，即每百萬個產品缺陷率小於1。在新興的5G通信，英特爾也與韓國SK Telecom一起探索，基於第二代至強可擴展處理器平臺的端到端架構，利用AI技術，通過預測網絡質量來檢測異常和實時管理網絡質量。
  • 中科院自動化所王金橋:深耕AI中臺引擎,助AI場景化、多元化落地
    峰會現場，王金橋教授以《AI中臺引擎:連接、計算與賦能》為主題，闡述了目前視頻系統存在的問題，以及AI中臺引擎如何助力AI場景化多元化落地。王金橋是國內知名計算機視覺與視頻分析專家、中國科學院自動化研究所模式識別國家重點實驗室研究員、同時作為中科視語董事長，對產學研的融合頗有心得。