智東西（公眾號：zhidxcom）
文 | 心緣
2019年，國內AI晶片玩家正圍繞落地展開新一輪的衝刺。
一邊是華為、百度、阿里等科技巨頭和幾家獨角獸輪番秀出雲端AI晶片新進展，另一邊聚焦於邊緣與終端的多家AI晶片創企陸續登場，揭開其第一代或者最新一代晶片的神秘面紗。
與此同時，人們評判AI晶片的標準，也由看算力、功耗等硬指標，轉向看量產規模、看客戶、看生態。
這不，國內AI晶片落地的排頭兵地平線，剛剛亮出新劍！
今天上午，地平線推出第二代邊緣AI晶片旭日二代和一站式全場景邊緣AI晶片解決方案。其晶片等效算力達4Tops，典型功耗為2W，算力利用率超過90%，如果配合高效算法，在同等TOPS下可處理的幀數比GPU的10倍還多。
據悉，旭日一代已服務數百家客戶，營收數億，交付數十萬套方案。
在此之前，地平線已經創造了多個記錄：中國第一家AI晶片創企、發布中國首款邊緣AI晶片、徵程晶片登陸美國助力國際頂尖Robotaxi車隊、旭日一代落地首年全球出貨量達六位數、發布中國首款車規級AI晶片。今年3月，地平線宣布完成B輪6億美元融資，估值達30億美元，成為全球估值最高的AI晶片獨角獸。
經過4年的積累，地平線在AIoT領域已經形成一套獨特的打法。除了推出新品之外，今日地平線還聚焦於其AIoT產品的整體布局，展示其在晶片、整體方案、開放生態體系、落地能力等方面的核心優勢，並公布其AIoT系列晶片的路線圖。
AIoT時代面臨哪些核心挑戰？為什麼今年AI晶片企業的勢頭有所衰減？如何在碎片化的AIoT市場中構築競爭壁壘？會後，地平線聯合創始人、技術副總裁黃暢，地平線副總裁、智能物聯晶片方案產品線總經理張永謙，接受智東西等媒體的採訪，就這些問題一一分享了他們的見解。
一、旭日二代：算力達4Tops，算力利用率超90%旭日二代邊緣AI晶片（以下簡稱「旭日二代」）面向智能物聯網，具備強大的視頻結構化能力，可對多類目標進行實施檢測和精準識別，今年3月已完成流片，接近量產階段。
該晶片採用臺積電28nm工藝，面積不過14mm x 14mm，內置雙核A53處理器和兩個基於地平線第二代BPU架構（伯努利架構）的BPU。
BPU架構由地平線基於AI算法實際場景需求設計而成，以最大程度提升算力的有效利用率，同時保障晶片的前瞻性、迭代延續性。
旭日二代的等效算力達4Tops，典型功耗為2W，單路可實時處理4K@30fps，4路可實時處理1080P@30fps。地平線聯合創始人、技術副總裁黃暢強調說，該晶片典型算法模型算力利用率超過90%，這在業界幾乎是絕無僅有的。
如果配合高效算法，每TOPS算力可處理的幀數將高於標稱4Tops算力的AI晶片，比同等算力GPU處理幀數的10倍還多。
在旭日二代上的實際測試結果表明，分類模型 MobileNet V2的運行速度超過每秒700張圖片，檢測模型Yolo V3的運行速度超過每秒40張圖片。
針對物聯網場景下的主要目標群體「人」和「車」，旭日二代進行了大量的算法優化，在邊緣端即可實現全視頻結構化能力，可高效靈活地處理多類AI任務，包括10～30萬人前端識別，密集人群時空屬性行為分析，多種非機動車、機動車檢測分類。
前期客戶驗證表明，旭日二代可完全滿足商業、辦公、社區、園區、教育等物聯網場景需求。
以通行門禁考勤方案為例，相較旭日一代，旭日二代晶片方案可將最大人臉庫容從最快200ms提升至100ms，並由原本只支持安卓系統進化為支持安卓/Linux系統。
目前，旭日二代支持MXNet和TensorFlow框架，預計明年年初支持PyTorch。
黃暢向智東西介紹，地平線圍繞其核心BPU定義一套自己的指令集，隨著指令集的擴充，未來旭日晶片還將支持更多框架。
現場黃暢還透露了旭日系列晶片的路線圖，旭日三代將於大約一年後推出，作為完整SoC方案，提供多種算力配置和多Camera輸入支持，更好地整合多路的視頻接入、視頻處理、ISP、視頻編輯碼壓縮等技術。
▲旭日系列晶片Roadmap
二、解讀地平線AIoT五大優勢相比傳統晶片大廠，地平線擁有更加開放的生態體系，落地能力也更加靈活高效，能大幅提升開發效率，並確保客戶投資安全性。
總體來看，地平線AIoT有五方面的優勢。
1、軟硬協同輸出極致效能地平線率先提出，將世界領先的深度學習算法集成在自主研發的邊緣AI處理器及平臺上，通過軟硬協同的方式將發揮效能優勢發揮到極致。
經典晶片性能評估方式是PPA（功耗Power、性能Performance、面積Area），AI晶片真實性能常用Tops/W與Tops來呈現。
而黃暢認為，此類評估方式並不完全準確，AI晶片的真實性能應是能效、利用率、算法能力的乘積。這意味著不僅要對晶片和算法進行優化，還要對連接兩者的編譯器等中間環節進行優化，最終達成全面的優化。
以編譯器優化所帶來的利用率提升為例，即便有架構自動優化，有編譯器相比沒編譯器的情況，單幀帶寬消耗可從每幀141.9MB降到每幀34.4MB，單幀計算延遲可從43.77毫秒降到25.1毫秒，而計算資源利用率可從57%提升到95%。
黃暢介紹說，地平線充分考慮到未來重要應用場景的關鍵算法的計算特性，對趨勢進行預判，前瞻性地將計算特點融入到計算架構設計中，使AI晶片隨著晶片演進趨勢，能始終保持相當高的有效利用率，從而真正意義上受益於算法創新帶來的優勢。
2、完整的方案能力地平線擁有豐富的算法樣例模型，能夠為客戶提供以晶片+算法+工具鏈為核心的完整方案，滿足多樣化場景需求。
地平線提供完整開放的旭日晶片解決方案及「天工開物」晶片工具鏈，包括豐富的模型和應用示例、可視化性能分析工具、可快速上手的BPU API、高度靈活的HR Runtime API和Platform API，供客戶根據需求選擇。
這些工具鏈可提供可視化調試調優工具，協助開發者快速分析定位問題，還提供豐富的例子、文檔，支持客戶快速產品落地。
3、開放的生態體系基於邊緣AI晶片，地平線致力於打造一個多層次、多維度、多樣性的開放生態體系。
▲地平線開放賦能生態體系
在產業鏈賦能方面，地平線堅持底層技術能力研發，加速普惠AI時代到來；在開發者生態方面， 地平線通過工具鏈服務降低開發者門檻，助力上層應用產生，以此豐富整個AIoT應用生態。
此外， 地平線也正通過與行業開放社區合作的形式降低開發者門檻，比如地平線加入96Boards社區，並在前段時間，推出基於96Boards SOM規範的邊緣AI開發套件BOOTPRINT X2，該套件具有高算力、高效能、感知接口豐富、可擴展的特點。
4、落地能力比同類型產品更靈活高效地平線主打軟硬協同，其晶片具有高MAC利用率，實際任務處理表現更好。
其晶片方案支持新模型優化，如 MobileNet、Faster RCNN。同等算力下，X2 在MobileNetV2之類的新模型上，比海思高端晶片（4Tops 算力）有更好的表現，實際性能更強，且功耗、成本更低。
另外，海思只支持Caffe，而地平線還支持更主流的訓練框架TensorFlow。比如科達選擇地平線很大程度上源於旭日二代晶片支持TensorFlow。
5、在設備投入和運維上降低成本得益於邊緣計算具有高度可靠、實時處理、靈活部署等特性，地平線可在兩方面幫助客戶降低成本。
一是設備投入，無需購置大型伺服器或佔用較大寬帶網絡。
二是設備運維，進行日常維護，更新迭代方便。
三、一站式全場景邊緣AI晶片解決方案隨後，地平線副總裁、智能物聯晶片方案產品線總經理張永謙發布旭日二代AI晶片及解決方案Horizon Hero，包括三類邊緣AI晶片解決方案：地平線HeroSights智能攝像機解決方案、地平線HeroSpark通行門禁考勤方案、地平線HeroStream智能分析盒解決方案。
張永謙提到，AIoT產品化存在五點挑戰：
（1）開發多種形態AI產品，滿足不同場景需求；
（2）最好的智能與圖像場景效果；
（3）快速開發上層智能應用；
（4）快速完成硬體設計；
（5）快速完成系統級整合。
針對這些挑戰，地平線將解決方案從晶片、基礎算法上推，使得客戶可以更快、以更小投入、最低成本去快速完成產品化。相較於市場上的AI方案，Hero在以下方面擁有明顯的落地優勢：
1、邊緣計算：本地端即可完成計算，數據無需上傳到雲端；
2、軟硬結合：算法與晶片協同優化，使方案兼具高性能、低功耗特點；
3、端邊結合：方案覆蓋智能攝像機，面板機以及智能分析盒；
4、全場景一站式方案：完整解決方案支持客戶快速應用開發和量產。
圖像搭配語音，從像素級感知到時空語義建模，以「人」為本的Horizon Hero AI全場景能力集的全場景能力正在快速形成。
軟體方面，地平線有非常強大的智能算法團隊，提供了從最底層像素級的、最基礎的原子的智能化處理，到語音識別、身份識別、人體屬性分析，再到對人體感知時空的分析，有一整套完整的算法能力集。
針對客戶不同的應用，地平線在算法集合的基礎之上，還提供算法策略能力集，以縮短產品開發時間。
為了使客戶能夠快速地開發應用，地平線打造了端邊一體AI嵌入式軟體架構，只要在端的模塊上加上算法配置和通道管理模塊，就可以迅速形成邊緣側的軟體架構。
其軟體框架跨OS、AI全場景、模塊化組件開發框架既支持安卓，也支持Linux，客戶可在常用的幾類端設備和邊緣設備上快速集成他們的應用，這些應用也都具有很強的可複製性、可遷移性。
硬體方面，地平線提供完整硬體交付與參考設計，包括晶片、套件以及標準主板，同時地平線也提供完整的原理圖和PCB Layout的設計。
地平線的晶片既單獨向外銷售，也通過整體解決方案的方式對外供給。如果客戶想選擇更熟悉的元器件，地平線也可以幫助他們在元器件上做整合和集成。
地平線還會提供整機智能效果集成支撐能力，包括模塊化參考設計、結構與散熱設計、原型機重現等。
這是因為光有核心設計仍不夠，整體方案的效果還與光照、距離等外部因素有關，針對不同場景，地平線會提供多套不同的產品設計，並為客戶集成各種他們需要的模塊。
目前，地平線面向平安城市、智慧社區、智慧辦公、智慧園區、智慧校園、智慧商業等六大行業提供解決方案。
四、數百家合作夥伴，營收數億據張永謙介紹，截至目前，旭日一代晶片已服務數百家客戶，營收數億，交付數十萬套方案，實現線下場景服務數千萬人口。
▲地平線在 AIoT 領域部分可公開合作夥伴
在地平線商業化加速過程中，有商米、多度、小米、永輝等許多優質客戶落地案例。
智慧零售方面，基於地平線針對零售場景的AIoT晶片解決方案，商米推出了AI識客攝像機，可在本地端主動識別進店顧客並進行豐富的屬性鑑別，解決商家「看店難」問題，助力精準營銷。
智慧社區方面，基於「AI晶片+算法」的一站式AIoT解決方案，地平線與多度聯合打造了智慧社區AI智能產品及解決方案。
除了視覺外，地平線在語音領域也有頗多建樹，能提供包含麥克風陣列、信號處理、喚醒、語義理解、語音識別、語音合成的全鏈路解決方案。其語音方案在國內已拿下多個大單。
例如，智能家居方面，地平線為小米一系列語音交互智能設備，提供自主研發的增強語音抽取（Enhanced Speech Extraction，簡稱 ESE）方案，使得小米音箱在複雜的噪聲環境中亦可實現隨時打斷、隨時喚醒，交互體驗更為精準、流暢。
地平線的方案將各個環節算法和晶片架構充分結合，通過端雲結合，能在端側更好地解決複雜場景中的語音處理問題。黃暢相信，很快地平線就可以在端上，拿出一個和伺服器能夠做到的性能相媲美的整套雲鏈路，並將進一步在語音處理與視覺融合上發力。
五、AIoT應關注兩個閉環，拼落地需要綜合打法會後，地平線聯合創始人、副總裁黃暢，地平線副總裁、智能物聯晶片方案產品線總經理張永謙，接受智東西等媒體的採訪。
▲地平線副總裁、智能物聯晶片方案產品線總經理張永謙（左），地平線聯合創始人、副總裁黃暢（右）
在採訪期間，黃暢和張永謙還多次強調，地平線不是單純的晶片公司，而是通過「晶片+算法」的模式以挖掘更好的性能。相比其他方案，旭日二代晶片整個解決方案的價值最大化在於軟體，晶片是技術能力中的重要基石，而在AIoT長尾應用領域的核心成本也是算法。
1、AIoT面臨的兩大挑戰談及AIoT的挑戰，黃暢認為，我們應該關注兩個閉環，一是業務閉環，二是數據閉環。
在AIoT領域賦能傳統行業時，很多困境來自缺乏開放性，對自我認知不足，對邊界判定不清晰，導致各方無法專注於自身核心能力的打造。如果不能有效地構成業務閉環，就無法讓信息進行流動聯通。
數據閉環的難處來自於跨行業。傳統行業往往很難將與業務場景強相關的數據分享出來，因此對於地平線這樣關注基礎AI能力建設的公司來說，能否持續去獲取真實場景中的數據，經過不斷迭代形成一個感知平臺，廣泛賦能各個業務場景中的一些基礎AI任務，這個能力本身也非常重要。
2、真正落地需要一套綜合打法另外，今年的安防展中，AI晶片廠商身影似乎要比往年少。對於這一現象，黃暢並不覺得奇怪。
在他看來，AI晶片距離真正商業化落地還很遙遠，過去兩年，國內湧現一批造芯熱潮，但其中一部分處於PPT造芯，自然今年的聲勢會弱下去。如今大家更注重落地，地平線也是如此，並不僅僅關注構造一個更加開放的邊緣AI計算平臺，同時也非常關注面向垂直領域的一站式解決方案。
要做到真正落地需要一套綜合打法，是個動態切換、調整的過程。在這個過程中，地平線始終保持較為靈活的姿態和開放的態度，和產業界進行充分合作，根據客戶需求進行自我調整。
黃暢表示，相信圍繞地平線的核心能力，他們能夠去創造價值、提高效率，從而反過來去證明自己共性的價值。
3、多種感知融合成提升交互體驗的新趨勢既然自動駕駛AI晶片和視覺AIoT晶片都已推出第二代，那麼地平線是否有涉足語音AI晶片的計劃？
對此，黃暢告訴智東西，初期地平線曾考慮過這一問題，後來發現傳統語音終端晶片中，現有的DSP 、Arm CPU等模塊已經足夠好，如果延續傳統的語音算法，不認為自研處理器會有優勢。
地平線看到的契機是通過更高的算力去顯著提升語音交互的體驗，通過不斷將語音算法放到新架構上，從算法層面上加以改進。另外近幾年呈現多種感知算法相互借鑑融合的趨勢，其語音與圖像的運算、處理的方式越來越趨同。
結語：從地平線看AIoT晶片落地三趨勢人工智慧和機器學習的爆發，給邊緣計算帶來了巨大的機會。而地平線選擇的自動駕駛和AIoT兩條主線，前者被公認為代表人們出行的未來，後者更是廣泛應用於人們生活的方方面面。
如今已進入AIoT晶片拼落地的時代，從地平線身上，我們可以看到當前AIoT晶片發展的幾個趨勢：
1、單晶片性能不再是唯一指標，軟體成提升性能的關鍵手段，通過軟硬協同最終帶來整體性能提升。
2、晶片開發的易用性更受重視，打造晶片的同時，也通過搭配工具鏈等方式降低開發門檻。
3、AIoT晶片正走出只秀性能的固有模式，開始同落地緊密結合，提供更方便易用的一站式解決方案。
而這些趨勢指向的同一目標，都是儘可能最大程度地方便開發者及企業的需求，通過提供更加開放的賦能服務，吸引更多合作夥伴，為自身生態建設奠定基礎。