為何探討AI晶片落地時軟硬融合被大咖們頻頻提及?| CCF-GAIR 2019

編者按：7月12日-7月14日，2019第四屆全球人工智慧與機器人峰會（CCF-GAIR 2019）於深圳正式召開。峰會由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，深圳市人工智慧與機器人研究院協辦，得到了深圳市政府的大力指導，是國內人工智慧和機器人學術界、工業界及投資界三大領域的頂級交流博覽盛會，旨在打造國內人工智慧領域極具實力的跨界交流合作平臺。

這一輪的AI熱潮讓晶片行業又一次出現了多年未見的創業熱潮，2015年前後，AI晶片初創公司相繼成立，不僅如此，國內外晶片巨頭們的紛紛布局更是讓AI晶片的賽道更加擁擠，形成了傳統晶片巨頭、科技巨頭、初創公司共同競爭的局面。2018年下半年開始，資本寒冬來襲，2019年，中美貿易摩擦讓半導體處於風口浪尖，同時，全球半導體市場也面臨衰退挑戰，AI晶片的落地顯得尤為重要。

2019年7月13日下午，來自學術界、工業界、投資界的重磅嘉賓齊聚CCF-GAIR 2019 AI晶片專場共同探討晶片的前沿技術以及AI晶片的落地。值得關注的是，演講嘉賓們在分享中頻頻提及軟硬融合，這是為什麼？

英特爾夏磊：AI計算一定需要硬體+軟體的結合

英特爾是全球最重要的晶片公司之一，也引領著全球晶片行業的發展。英特爾首席工程師 數據中心技術銷售部人工智慧首席技術架構師夏磊帶來了主題為《異構 | 統一》的開場演講。隨著AI、大數據技術的不斷發展，計算的應用層面需要很多專業的設計、專業的方案去應對不同類型的數據。英特爾通過提供多樣化的標量、矢量、矩陣和空間架構組合，以先進位程技術進行設計，由顛覆性內存層次結構提供支持，通過先進封裝集成到系統中，使用光速互連進行超大規模部署，提供統一的軟體開發接口以及安全功能，從而實現超異構計算的技術願景。

英特爾首席工程師 數據中心技術銷售部人工智慧首席技術架構師夏磊

對於AI計算，一定需要硬體+軟體的結合。在英特爾第二代至強可擴展處理器的新計算方案中，英特爾針對AI的場景進行加速，推出了英特爾DL Boost加速指令集，通過軟硬體的結合達到了非常高的水準，在某些場景的性能超越了GPU加速器的方案。

目前，英特爾軟硬結合的AI技術已經在實際應用當中落地，比如英特爾與美的合作，利用AI進行缺陷檢測，幫助美的在生產製造中管控產品質量。

對英特爾而言，異構和統一其實是針對面向硬體和軟體的不同的策略。未來，硬體方案會越來越細分，針對特定的數據處理的類型和需求有很多選項，但對軟體開發者而言，他們並不希望在開發一個AI軟體應用時候需要針對不同的硬體器件來學習不同的編程框架、編程工具、編程接口。為此，英特爾提出了OneAPI的軟體策略，不斷推進軟體通用化、標準化，通過一個軟體平臺和一套軟體工具，支撐四種不同類型的加速方案，更好滿足開發人員的需求。

地平線黃暢：AI計算的第一要務是追求極致的能效比和性價比

地平線聯合創始人兼副總裁、深度學習專家黃暢帶來了《打造極致效能的AI計算平臺，構建安全、美好的智能世界》的主題分享。他指出，AI普惠化和民主化的背後，數據計算帶來了巨大的能源消耗。數據統計顯示，2017年全國有40家中小型數據中心，遍布在各處，但這些中小數據中心單2017年消耗電量比三峽大壩的發電量還多，等量的碳排放量兩倍於民航的碳排放量，這是很恐怖的數據。

地平線聯合創始人兼副總裁、深度學習專家黃暢

地平線特別強調算法和晶片的優化，需兼顧靈活性和通用性，第一要務是追求極致的能效比和性價比。這就要求地平線並不僅僅是做算法和架構這兩件事情，還包括編譯器等外延。比如說架構設計需要考慮未來重要場景中的關鍵算法，實驗、探索、判斷，與業界共同定義未來重要場景是什麼、未來重要的關鍵算法是什麼等問題。

數據、AI模型和設備形成一個閉環，這個閉環結合在一起高速地循環、快速地推進AI技術發展和商業化落地。

「地平線努力做到能夠更好地預測、把握、選擇未來真正重要的AI算法趨勢，並且把算法發展的趨勢進行拆解，融入到架構中，使我們預先將未來可能成為主流的，最有效的算法提前考慮到計算架構中，這點非常重要。」 黃暢說道。

前段時間，地平線正式對外公布了「AI on Horizon，Journey Together」的公司戰略，他們希望打造面向整個產業界的通用AI應用平臺，賦能客戶，讓AI的技術可以更好更早的普惠化、造福大家的生活。

中科院計算所包雲崗：彌補軟硬體之間的性能差異有兩種思路

中科院計算所研究員、先進計算機系統研究中心主任，中國開放指令生態聯盟秘書長包雲崗在其《面向未來領域專用架構的敏捷開發方法與開源晶片生態》的主題演講中指出，今天軟體、硬體之間有巨大的性能差異，同樣一個算法或者一個程序，一個普通的程式設計師來寫和一個懂體系架構的人來寫，性能可以差63000倍。如果按照摩爾定律折算，相當於可以把摩爾定律再延長二十多年，實際上就是摩爾定律賦予了很大的能力，但是並沒有挖掘出來。

中科院計算所研究員、先進計算機系統研究中心主任，中國開放指令生態聯盟秘書長包雲崗

如何彌補軟硬體之間的性能差異？包雲崗研究員認為有兩種思路：一種是可以僱更好的程式設計師寫出更好的軟體，但是這樣的人終究少；還有一種是在硬體上加速，有一些工作讓硬體來做，也就提出了硬體加速器，就是領域專用的體系結構。

但領域專用體系種結構出來以後又帶來一個新的問題，每個領域都需要一種專用晶片，成本和時間的問題如何解決？如果我們可以做到晶片開發像軟體開發一樣協作，那未來我們可以把晶片開發變成月迭代，軟硬體就可以協同起來，這是未來有可能做到的。

他在演講中也指出，目前開源晶片生態四要素為：開源指令集與IP、硬體開發語言與開源EDA工具鏈、仿真/模擬、軟體工具鏈。

「晶片是不是可以像開源軟體一樣，幫助我們把硬體設計的門檻降下來。實際上現在存在一個死結。首先，做一個晶片和軟體需要花那麼多精力，做完以後很多企業不願意開源，導致在市場上、業界沒有開源可以用。大家只能去買，而且IP都還很貴，買過來以後只能花很多力氣和時間去驗證它來降低風險，進而又增加了人力的投入，所以整個是一個死結。」 包雲崗表示。

怎麼打破它？最近幾年很多力量都在試圖把開發投入這一環給解開，從而打開開源晶片的死結。此外，開源的IP，RISC-V降低了IP的成本。

深聰智能朱澄宇：軟硬融合使邊緣計算成為可能

深聰智能 CTO 朱澄宇分享的主題是《端側專用晶片--AI 算法的理想載體》。他認為語音技術的演進和IoT時代的到來，某種程度上可以說是一種天作之合，這兩個技術必定是未來十年增長的亮點，特別是在晶片領域。

深聰智能 CTO 朱澄宇

我們知道，思必馳是一家算法很強的公司，不斷把算法移植到不同的晶片和平臺上，但在移植的過程中還是有很多不方便的地方。朱澄宇指出，如果使用第三方通用晶片，產品研發與AI市場需求、AI算法、AI數據不能形成閉環，如果沒有閉環就不能形成生態，不利於把這塊蛋糕做大，這些問題的存在讓思必馳最終決定成立一家公司專門做晶片。

朱澄宇強調：「我們做晶片不是趕時髦，而是有長遠的規劃，我們的第二代晶片要解決本地語音識別的問題，增加安全、聲紋特性，會採取更深度的融合，從算法到基礎IP都做專門的優化，達到更好的目的。再下一代晶片，我們會考慮多模態以及進行存儲、工藝、封裝的優化。」

最終，思必馳晶片+算法的軟硬結合方案將會給用戶帶來非常好的體驗，不僅能夠聽得清和聽得懂，還有很高的識別率和快速的反應。能夠實現非常低的功耗，基本上都可以做到使用電池供電。軟硬結合的方案也具備多種接口，可以做很多擴展。更重要的是，與通用晶片相比，因為不需要移植，能夠讓產品更快上市。

觸景無限肖洪波：解決智慧城市的挑戰需要易於使用、軟硬融合的感知晶片

觸景無限科技聯合創始人兼CEO肖洪波帶來了《重構邊緣晶片，讓感知融入城市》的演講。他指出，智慧城市的提出已有十幾年歷史，但是今天智慧城市領域卻依然沒有達到想要的效果——這是因為人們忽略了很多在邊緣和感知領域的投入，只是在後端打通了一些數據，並沒有對前端更豐富的數據進行收集和前端的智能分析。而現有AI晶片在邊緣數據的分析處理上存在局限性，因而需要重構邊緣晶片。

觸景無限科技聯合創始人兼CEO肖洪波

隨著技術發展，肖洪波認為從智慧城市到感知城市的轉變有三點非常關鍵。第一是物聯網技術，改變前端數據收集方式；第二是邊緣計算技術，越來越強的算力、越來越低的功耗以及感知融合處理；第三是通訊技術的發展。

肖洪波相信，未來智慧城市+感知能力會變成「感知城市」，通過傳感器技術應用和邊緣計算相結合，能夠迅速反饋到城市治理的方方面面。

過去幾年觸景無限一直專注做邊緣計算，一共研發了四代邊緣計算的產品，基本覆蓋了現在市面上各種前端的晶片解決方案，比如第一代基於嵌入式GPU，隨後的VPU、NPU，以及下一代基於FPGA的產品。

肖洪波表示，感知城市的建設中會遇到很多邊緣問題，必須在前端部署一款高性能、低功耗、感知融合的晶片。我們要解決產品和場景裡碰到的挑戰和問題，提供更易於使用的感知晶片，使其成為一個軟體內核級和晶片架構級的綜合產品。

天數智芯李雲鵬：海量數據時代軟硬體充分結合尤為重要

天數智芯創始人、董事長、CEO 李雲鵬帶來了《海量數據時代的全算力》的主題分享。李雲鵬在演講中指出，海量數據時代，數據的收集、組織、分析、運用都將推動社會的發展。隨著數據量的不斷增長、算法不斷演進和迭代，對極致算力的需求也越來越大，而軟硬體的充分結合則顯得尤為重要，這也是天數智芯決定打造AI晶片的原因之一。

天數智芯創始人、董事長、CEO 李雲鵬

他說：「我們技術的開發邏輯是非常有意思的，第一天從事軟體算力，軟體算力是提升已有硬體的平均算力。如今，我們的中間件產品可以和已有市場上任何一款開源計算框架完美配合，在已有的硬體處理器上達到更高的處理效率。隨著中間件的推出和上層應用的不斷落地，我們推出相應的晶片產品，為已有的硬體產品和已有的系統解決方案提供平滑的、透明的遷移。」

據雷鋒網(公眾號：雷鋒網)了解，天數智芯已經布局了雲端和終端的AI晶片，將針對不同的市場，提供雲、邊、端的算力支持。其GPGPU流片計劃正在如期推進，據現有PPA數據顯示，對比Nvidia V100，會有三倍的功耗比提升。還值得指出的是，在一月前斯坦福的DAWN Bench榜單中，天數智芯的ImageNet推理成績排名第一。

李雲鵬還談到了動態平衡，他表示：天數智芯兩方面（軟體和硬體）的業務具備動態平衡兩個特徵，兩者是相互可以轉換的，換句話說軟體能為硬體迭代，硬體能為軟體的進步和提升提供幫助。任何一個狀態本身此消彼漲，軟體多一點，硬體就會少一點。

雲天勵飛李愛軍：從場景出發的計算架構才能真正滿足AI大規模應用需求

雲天勵飛副總裁李愛軍分享的主題是《芯聯萬物，智創未來》。他首先指出，雲天勵飛一直致力於通過提升算法、晶片、數據三方面的核心競爭力，實現人工智慧大規模產業化落地。

雲天勵飛副總裁李愛軍

李愛軍進一步指出，在一個有機的循環和推動下，全新的5G+AIoT時代到來了。但5G+AIoT的場景更加複雜，一個邊緣和端運算平臺，不能只跑某一種算法，需要在AIoT場景下應對用戶各種各樣的需求，同時要滿足實時數據的處理要求，還要能保證數據的安全性和隱私性。

傳統的晶片很難滿足上述需求，需要更高效的神經網絡處理器的架構設計。李愛軍指出：「AI晶片和計算架構一定是從場景出發、為場景服務，這樣的計算架構也才能真正滿足大規模應用需求。雲天勵飛先是在我們AI系統大規模產業化落地和部署情況下，去了解行業的需求和痛點，基於對行業的需求和痛點的深刻理解來打造AI的晶片，通過晶片來解決這些場景下的關鍵問題，然後通過我們的服務來更多賦能這個行業。」

雲天勵飛自主設計的DeepEye1000神經網絡處理器晶片是面向多個應用場景設計，支持多模態的計算，可以支持一鍵式AI部署，同時針對端和邊緣做了優化，是異構的並行架構。

李愛軍表示，圍繞著5G+AIoT，雲天勵飛希望跟合作夥伴一起打造自主可控的5AIoT生態，使得人工智慧能夠更快速、更高效地大規模產業化落地。

華登國際蘇東：4大因素促進人工智慧進入繁榮期

最後一位登臺演講的，是華登國際副總裁蘇東。針對處於風口浪尖上的半導體產業，作為一家風險投資機構的投資人，他分享的主題是《集成電路產業投資趨勢》。蘇東表示，過去的十幾二十年間，中國的晶片還是在做廉價替代的事情，通過廉價替代逐步提升附加值，其中，一些公司實現了突破。接下來，這類公司能在全球範圍內引領市場，另外，這些公司上市之後進行併購，也能極大促進他們的發展。

華登國際副總裁蘇東

他強調，做晶片不是那麼容易，我們看到了中國晶片公司上市的高光時刻，但不要忘記這些公司都成立很長的時間，而且有很多艱難的時刻。

「未來，我們覺得新的應用可以催生出半導體新的機會，最主要的是四個：一是AI；二是5G在2019年的部署和應用；三是消費升級，很多新的品類消費硬體逐漸進入家庭。四是汽車電子，汽車電子的電子化程度會越來越高，包括無人駕駛、新能源，都能極大促進汽車的電子化。」蘇東進一步表示。

蘇東還指出，4大因素將促進人工智慧進入繁榮期，分別是：GPU使得訓練深度神經網絡的速度提升255倍；全球數據中心數據量在最近以及未來幾年年均增速40%；算法突破減少了人工總結特徵的不完備性，推動AI技術成熟和實用化；最後是包括政府和大學的學科投入，大公司的AI戰略以及各風險資本的瘋狂押注。雷鋒網

我們將會在本次峰會後，在「AI投研邦」上線CCF GAIR 2019峰會完整視頻與各大主題專場白皮書，包括機器人前沿專場、智能交通專場、智慧城市專場、AI晶片專場、AI金融專場、AI醫療專場、智慧教育專場等。「AI投研邦」會員們可免費觀看全年峰會視頻與研報內容，掃碼進入會員頁面了解更多。峰會期間專享立減399元福利，可進入頁面直接領取，或私信助教小慕（微信：moocmm）諮詢。（最後一天50個名額，速搶。）

雷鋒網原創文章，未經授權禁止轉載。詳情見轉載須知。