人工智慧晶片魚和熊掌終極難題 被清華大學IC男神解決了!

2020-12-14 智東西

智東西 文 | Lina

導語:最近半年以來,人工智慧的發展重心逐漸從「軟」到「硬」,相伴而生的是全新一代AI晶片產業的全面崛起。智東西曆經數月,首次對AI晶片全產業鏈上下近百間核心企業進行報導,覆蓋國內外各大巨頭玩家、新興創企、場景應用、代工生產等,全面深入地對晶片產業發展、創新創業進行了追蹤報導。此為智東西AI晶片產業系列報導之一。

在機器學習算法不斷變化、人工智慧應用不斷增多的當下,神經網絡計算晶片(AI晶片)的設計者們所思考的一個關鍵問題開始浮出水面——如何在保證AI晶片性能/功耗表現優秀的同時,儘可能的在更多人工智慧算法上通用。

目前市面上陸續湧現的AI晶片中,有不少都採用了重新設計晶片底層架構的方式,來平衡AI晶片的性能與AI算法通用性之間「魚與熊掌不可兼得」的矛盾,突出玩家有寒武紀、谷歌TPU項目等等。

產業界如此熱火產天的發展,離不開學術界此前的長久積累。在過去的十幾年裡,清華微電子所的可重構計算團隊一直在研究一項核心技術——「軟體定義晶片」,前年,他們推出了一款代號為Thinker 1的AI晶片,這款晶片不僅能夠支持人臉識別、語音識別的AI算法,而且晶片的功耗非常小——只需要7號AA電池就夠讓它運行一整年。

在2018年的春節前夕,智東西專門來到清華大學校園裡,與GTIC 2018重磅嘉賓之一,清華大學微電子研究所所長、中國半導體行業協會IC設計分會理事長、我國半導體行業「男神」級人物魏少軍教授圍繞著AI晶片的話題展開了獨家對話。魏少軍教授有著數十年半導體行業經驗,對我國半導體產業有著深刻的認識,看法往往一針見血。

他認為,目前晶片架構創新已經引起了全球各個學院/企業的廣泛關注,尤其是「軟體定義晶片」相關研究,更是提升AI晶片的應用範疇、適應AI算法不斷變化的重要研究方向。在今明兩年之內AI晶片將持續火熱,但是到了2020年前後則會行業洗牌,出現第一批出局者。

一、性能 vs 靈活:魚與熊掌不可兼得

晶片的性能跟通用性常常是一個「魚和熊掌不可兼得」的選項,傳統架構下,一個晶片在某些特定領域的性能越強、功耗越低,它往往就越不靈活、越不通用。舉個例子,華為Mate 10裡的麒麟970晶片用於手機的性能非常強大,但是它並不適用於安防攝像頭、可穿戴手環等場景;同理,一個CPU能夠靈活地處理眾多不同任務,但是它在某些特定任務上往往性能不夠強大,比如在深度神經網絡訓練上的性能不如GPU。

而ASIC這類專用晶片的位置,則介乎於手機SoC這類標準晶片、與CPU這類通用晶片之間——這是一個非常尷尬的地位,標準晶片雖然單個開發成本高,但是單一品類出貨量非常大,很大程度上降低了晶片的單個價格;而通用晶片則相反,雖然總體出貨量不高,但是單一品類的價格很高,也能夠分攤研發成本。

隨著晶片製造工藝的日益先進(目前已經逼近7nm),晶片製造成本也水漲船高,如今設計製造一顆10nm晶片的成本要幾千萬美元,綜合成本高達上億美元。

因此,如果不能保證某款單一應用場景下能夠大量出貨,專用晶片需要保持一定的通用性與靈活度。

最近兩年間,產業界開始陸續湧現出神經網絡計算專用晶片(AI晶片),寒武紀、深鑑科技、中星微電子等玩家的AI晶片產品採用的都是28nm的晶片工藝,前期從投入到流片的成本超過400萬美元,單一品類出貨量沒有百萬的級別將很難收回成本。

而除了成本之外,AI算法的演進也需要納入考慮。由於目前人工智慧算法還在不斷變化、不斷演進的過程中,人工智慧經歷了六十多年的發展才迎來了深度學習的大規模爆發,然而現在深度學習算法還有眾多有待優化的方面,比如稀疏化、低功耗、小數據訓練等,算法尚未定型。

此外,目前語音/文字/圖像/視頻等不同應用無法使用統一算法,然而許多實際生活中的AI應用程式(識別圖像中的對象或理解人類語言)需要不同類型的具有不同層數的神經網絡的組合。

因此,在確保AI應用性能的前提下,AI晶片需要儘可能地保持晶片通用性。

目前AI晶片企業們採用的技術方案各不相同,如果將晶片通用性作為評測坐標軸,最左邊、最激進的企業會採用算法固化方案,這一做法成本低、晶片落地時間短、單一算法的性能與功耗比能夠做到極致,但是極大減少了晶片的通用型和靈活性;最右邊的團隊(比如寒武紀、谷歌TPU等)則會設計一款全新的晶片架構,這一做法成本高昂、晶片研發周期長,但是能夠在性能與晶片通用性上達到極好的平衡。

▲清華微電子所所長魏少軍教授

清華微電子所的可重構計算團隊就屬於坐標軸右邊的一類,從2006年開始,清華微電子所所長魏少軍教授就帶領著團隊在持續深入研究這項重要技術——「軟體定義晶片」,又稱「可重構計算技術」。

「軟體定義晶片」顧名思義就是讓晶片根據軟體進行適應與調整,這是一項專用晶片架構設計上的創新,與傳統的馮諾依曼架構有著很大的區別。簡單來說就是將軟體通過不同的管道輸送到硬體中來執行功能,使得晶片能夠實時地根據軟體/產品的需求改變功能,實現更加靈活的晶片設計。

也就是說,沿用這種架構設計出來的專用晶片,可以讓晶片的計算能力按照軟體的需求來調整適應,而不是沿用傳統晶片設計的剛性架構,讓應用適應架構。對於現在尚未定型/統一的各類AI算法而言,可重構計算成了AI晶片設計的一個重要研究方向。

二、Thinker AI晶片:語音圖像雙識別、一節電池用一年

前年(2016年),依照可重構計算晶片的框架,魏少軍教授團隊中的尹首一副教授帶隊設計研發了一款代號為Thinker 1的可重構混合神經網絡計算晶片。

這款晶片不僅可以動態地調整計算和內存需求,使得晶片能夠支持人臉識別和語音識別的神經網絡應用,而且晶片的功耗非常小——只需要八節7號AA電池就夠讓它運行一整年。

Thinker 1不僅在AI性能與算法通用性上取得了突破性的進展,還獲得了學術界的重要認可,在2017 ACM/IEEE ISLPED國際低功耗電子學與設計會議上,Thinker1獲得了設計競賽獎,這是中國大陸單位首次以第一完成單位獲得此獎項。

魏少軍教授告訴智東西,Thinker 1是一塊實驗性質的驗證晶片,為了證明「軟體定義晶片」這一架構在AI晶片設計中的可行性——效果出奇的好。隨後,可重構計算團隊又打造了兩款Thinker系列晶片,分別為Thinker 2人臉識別晶片,能夠做到6ms人臉識別(iPhone X為10ms)、準確率超過98%;以及Thinker S語音識別晶片,不僅功耗只有200多微瓦,只需要一節7號AA電池就運行一整年,而且可以進行聲紋識別。

▲清華大學微電子所提供的Thinker晶片的顯微照片

Thinker可以嵌入到很多小型設備中,包括智慧型手機、手錶、家用機器人、或遠程控制的儀器設備等。目前,研究團隊與廠商溝通Thinker晶片的產業化方案,此前也有報導稱最快今年三月我們就能看到第一款搭載Thinker晶片的端智能產品。不過清華微電子所將會將這一技術授權予企業使用,高校本身不會進行產業化。

魏少軍教授說,清華微電子所在可重構計算上已經投入了十多年的研發,此前一直將重心放在在其他晶片的研究上,將這一架構用於AI晶片的設計並且能取得如此好的效果,完全是「意外之喜」。下一步,可重構計算團隊將會加大基礎研究(尤其是編譯器等相關軟體)的研發投入,並且進一步推動產業應用與企業合作的進程。

除了人工智慧(AI)外,這項技術在信息安全晶片、可編程邏輯器件、可穿戴計算晶片等領域都獲得了批量應用。魏少軍教授帶領的可重構計算團隊也獲得了國家863計劃兩期支持、2015年國家技術發明二等獎、2014年教育部技術發明一等獎等國家榮譽。

去年12月,清華微電子所、瀾起科技、英特爾還聯合推出了基於此項技術研發的津逮伺服器CPU,不僅能夠大幅提升雲端伺服器的計算能效,還能實時監測、甄別和管控,極大增強CPU晶片的硬體安全性。

三、AI晶片廣泛用於安防監控?「可能走錯路了」

目前AI應用仍處於早期階段,主要還是集中在網際網路應用,需要在雲端處理,端智能方面並沒有較多普及。

在這一輪興起的人工智慧(AI)浪潮中,最為火熱、最頻繁地被人提起的落地行業莫過於安防了——或者更準確來說,是基於安防監控攝像頭的人臉識別應用。這不僅是眾多AI晶片、AI平臺應用廠商都在瞄準的行業,各家傳統安防巨頭也都躍躍欲試瞄準了AI+安防。

然而在交談中,魏少軍教授向智東西提到,現在的AI晶片應用在視頻監控上,很有可能是走錯路了。

由於目前的安防監控智能化還是以人臉識別為主,然而在廣場、車站等遠距離、廣泛監控的場景下,根本沒可能看清人臉,

這些場景的人臉識別項目雖然是個看似純技術角度可行的項目,然而一旦設計光照、遮擋、攝像頭清晰度、以及可承載的晶片算力、網絡帶寬等工程化問題,情況就會變得非常複雜。

▲2008年北京奧運會人臉票證

一位有著傳統晶片廠商與安防廠商雙背景,曾參與過2008年奧運會「刷臉門票」、天安門廣場安防布控等項目的AI晶片初創CEO也曾經告訴我類似的結果,中遠距離內大型廣場內的人臉識別項目——比如天安門廣場人臉識別項目——根據去年天安門分局的調研結果顯示,這項目仍舊有著巨大的實現難度,是個美好的「理論幻想」。

如果我們按照智能攝像頭車牌識別的技術類推,經過了十幾年的技術演進、形態變遷後,目前北京市共有65萬路交通攝像頭,其中能夠進行智能車牌識別的只有公安的3000路、停車場的3萬路,而且是只有在光照、畫面對其等問題都解決了,才能在特定路口、特定場景下實現——而人臉識別遠比車牌識別要複雜得多。

因此,AI安防雖然可以在局部場景(比如中短距離、室內監控、門禁刷臉、車輛識別等)落地,但是離真正的安防廣泛應用還差得很遠。魏少軍教授說,AI只是方法、AI晶片只是手段,但是最重要的還是AI的應用落地。

結語:AI晶片2020年或將進入洗牌期

魏少軍教授認為,我國的晶片工藝技術與發達國家相比,還存在兩三代工藝的差距;我們原來希望在2020年以前,與國際最先進位造工藝水平的差距,不要大於兩代,現在看來實現較為困難。此外,在晶片行業的人才、產能、研發、設計等幾大重要因素上,我們的產業缺口仍就比較明顯。

我國的晶片產業目前在高端晶片的發展上遇到了很多挑戰,如果我們依舊遵循傳統的架構以跟隨的腳步進行發展,將會始終落後於人——因此,從晶片設計底層架構上的創新尤為重要。目前我們在軟體定義晶片、AI晶片等這類傳統晶片業的「破冰者」方面已經取得了不錯的研究成績,值得加大投入力度。

魏少軍教授認為,從產業發展規律來看,在今明兩年之內AI晶片將持續火熱,大家扎堆進入;但是到了2020年前後,則將會出現一批出局者,行業洗牌開始。由於目前AI算法還在不斷演進匯總的過程中,最終的成功與否則將取決於各家技術路徑的選擇和產品落地的速度。

相關焦點

  • 要人工智慧還是要移民?美國上演真實的魚和熊掌不可兼得
    美國總統川普最近籤署了一項美國人工智慧戰略計劃備忘錄,該備忘錄的目的是旨在推動美國人工智慧技術的提升與突破,以提高美國科技、經濟競爭力,保證美國國家安全。但是現在人工智慧技術人員稀缺,每個國家都在儘可能的吸收這些人才,而在幾個主要的人工智慧技術大國之中,美國是唯一一個在流失人工智慧人才的國家,這與川普上任之後實行嚴格的籤證制度是分不開的。
  • 多年糾結得以解決!北大清華開放課程,魚和熊掌可兼得
    對於高三學霸而言,既上北京大學,又上清華大學,似乎「魚和熊掌不可兼得」。從今年春季起,這樣的夢想將成為現實。近日,北大清華均發布通告,兩校教務部門達成共識,決定互相開放部分本科課程且互認學分,其中北大開放27課,以人文社科類課程為主,清華開放12門課程,以理工科為主。
  • 清華大學教授與電子科大教授交鋒人工智慧:誰在胡扯?
    王志華長期從事集成電路設計、電子設計自動化、數字音頻與視頻信號處理等方面的研究工作,是國內相關領域的頂級專家學者,擔任清華大學微電子學研究所副所長、聯合研究實驗室主任、通信技術開發中心主任。陳建文其實也與清華大學有諸多淵源,他從清華大學電子工程系博士畢業,後在哈佛大學人眼研究中心進行解決人工智慧在視覺交互領域的交叉學科問題的研究,現擔任電子科技大學電子工程學院教授、視覺智能研究中心主任,專注於視頻領域的人工智慧領先技術和未來發展的研究,曾在2016年專門給李克強總理匯報「網際網路+」的新趨勢「視頻+」。這樣兩位大伽論戰人工智慧,反響自然極大。
  • 2019人工智慧應用七大領域全解析
    2019人工智慧技術幾大行業全分析1956年的達特茅斯大會初次提起虛擬實境技術的界定:使有部設備的反映方法像1個人到行動時需根據的自動化。第一位轉型環節是在計算這一階段,它促使設備可以像人們相同開展測算,無所不為神經網絡和遺傳算法的出現,促使設備可以更效率、迅速解決匯聚全球的數劇。下一個轉型環節也是認知自動化,讓設備能聽得懂人們的語言、看懂全球一切。話音和視覺檢測就應屬這一層面,這種工藝可以更強的輔助人們效率達到目標。
  • 網友:多年糾結的難題解決了
    對於高三學霸而言,既上北京大學,又上清華大學,似乎「魚和熊掌不可兼得」。從今年春季起,這樣的夢想將成為現實。近日,北大清華均發布通告,兩校教務部門達成共識,決定互相開放部分本科課程且互認學分,其中北大開放27課,以人文社科類課程為主,清華開放12門課程,以理工科為主。
  • 清華大學成立智能社會治理研究院
    8月27日,清華大學智能社會治理研究院成立大會在清華大學主樓舉行。研究院在中央網信辦、科技部等相關部委的支持下成立,依託清華大學多學科優勢,面向人工智慧技術發展與應用對社會治理的綜合影響開展研究,為全球人工智慧社會影響的研究與治理提供理論支撐。
  • 什麼能夠幫助我們在人工智慧倫理領域前行?能夠採取的行動有哪些?
    在人工智慧倫理研究中,主流的看法是既然讓人工智慧決策已經不可避免,應該將倫理嵌入人工智慧技術之中,以便增加人工智慧決策的可靠性和安全性。這種嵌入,也稱為「道德算法」。在道德算法的實現路徑上,人們已經考慮了三種進路:自上而下進路、自下而上進路和某些混合式進路。
  • AI 人工智慧簡介
    我們致力於建立一個全球部署的雲端環境(SaaS),讓多語種虛擬人工智慧座席在多聯絡渠道(包括電話語音,簡訊,在線聊天,社交媒體)中能處理顧客多輪對話以及相對複雜的顧客請求。 而呼叫中心的人力業務代表可僅專注於更高價值更複雜的顧客聯絡溝通工作任務。通過我們的平臺,企業客戶可從根本上降低呼叫中心成本以及改善呼叫中心體驗,並可快速拓展業務到全球各個語種。
  • 中國人工智慧實力大學綜合排名_中國人工智慧公司排名
    下面就來看看中國人工智慧實力最強的十大高校排名以及中國人工智慧公司十大排名狀況。   中國人工智慧實力大學綜合排名   1.清華大學   清華大學(TsinghuaUniversity),簡稱「清華」,由中華人民共和國教育部直屬,中央直管副部級建制,位列「211工程」、「985工程」、「世界一流大學和一流學科」,入選「基礎學科拔尖學生培養試驗計劃」、「高等學校創新能力提升計劃
  • 符號主義VS聯結主義:魚和熊掌如何兼得
    一直以來,人工智慧技術就分為兩個陣營:符號主義AI與聯結主義AI。由於近期的成功案例與媒體的大肆宣傳,聯結主義目前已大佔上風。有人甚至散布虛假消息,稱人們將不再關注傳統AI研究與發展,停止對其注資。實際上,符號主義與聯結主義在人工智慧領域都有自己的一席之地。
  • 竹間智能怎麼樣?六大核心平臺解決企業智能化難題
    六大核心平臺解決企業智能化難題 2020年11月20日 16:21作者:網絡編輯:王動 智慧金融、智能終端、網際網路、企業、健康醫藥、政務……憑藉六大行業解決方案,如今的竹間智能科技已經獲得了行業的普遍認可。
  • 清華大學腦與智能實驗室9.4T核磁設備順利進場 助力腦科學和人工...
    1月6日,布魯克9.4T非人靈長類動物磁共振成像設備(BioSpec 94/30USR)順利入場並完成初步安裝,標誌著清華大學腦與智能實驗室的非人靈長類研究中心即將正式建成並投入使用。
  • 凝結人工智慧技術的網易七魚,為何發力雲客服領域?
    還有,目前國內企業面臨的諸多客服難題亟待解決,缺少真正智能的雲客服解決方案,可能也堅定了網易發力雲客服領域的一個重要原因。根據《客服現狀白皮書》調查顯示,國內客服行業普遍存在的離職率高、收入低、工作滿意度差等行業痛點,而企業選擇智能客服的一個重要原因是希望能夠解決重複性問題,以便達到節省人力成本的目的。
  • 人工智慧簡介(科普版17k字)
    智能行為能否用簡單的原則(如邏輯或優化)來描述?還是必須解決大量完全無關的問題?智能是否可以使用高級符號表達,如詞和想法?還是需要「子符號」的處理?JOHN HAUGELAND提出了GOFAI(出色的老式人工智慧)的概念,也提議人工智慧應歸類為SYNTHETIC INTELLIGENCE,[29]這個概念後來被某些非GOFAI研究者採納。
  • 多元智能視域中的人工智慧技術發展及教育應用
    由加德納對智能的定義可以看出,人類的智能具有如下特徵:(1)智能是人的潛在能力,具有生物學、心理學的特性;(2)智能的作用是能解決問題,或創造產品;(3)智能作用是否能發揮取決於特定文化的價值,文化中的機會,以及由個人和家庭、學校的教師和其他人所作出的決定;(4)智能作用的發揮涉及信息處理的心理過程。
  • 能雲盈和:應用「泛在電力物聯網」解決配電運維難題
    在北京能雲盈和科技有限公司總經理趙崧看來,如果電力物聯網僅停留在簡單滿足應用場景和閾值報警等基本功能,不充分利用用人工智慧、態勢感知等最新型的技術,將無法真正解決客戶的痛點。能雲盈和通過洞見公共建築運營發展趨勢與客戶痛點,利用「雲、大、物、移」、人工智慧和機器學習算法等技術手段助推客戶順利完成從智能建築運營向智慧建築運營的蛻變過程。
  • 黑芝麻智能與清華大學蘇研院籤署戰略合作,成立車路協同聯合實驗室
    快訊 | 詳情 黑芝麻智能與清華大學蘇研院籤署戰略合作,成立車路協同聯合實驗室 2020年12月10日,黑芝麻智能科技與清華大學蘇州汽車研究院籤訂戰略合作諒解備忘錄。
  • 黑芝麻智能與清華大學蘇研院籤戰略合作 成立車路協同聯合實驗室
    2020年12月10日,黑芝麻智能科技與清華大學蘇州汽車研究院籤訂戰略合作諒解備忘錄。雙方將深化人工智慧技術合作關係,不斷加深在汽車前沿技術本地化應用和創新、產業生態建設推廣等領域的合作,共同推動人工智慧技術在智能網聯汽車行業應用落地。
  • 張亞勤掛帥清華大學智能產業研究院 多名圖靈獎得主任學術顧問
    12月1日,清華大學智能產業研究院(Institute for AI Industry Research, Tsinghua University,英文簡稱AIR)正式宣告成立,面向第四次工業革命,利用人工智慧技術在智慧交通(AI+Transportation)、智慧物聯(AI+IoT)、智慧醫療(AI+Healthcare)領域開展應用研究,賦能產業升級
  • 澎思科技當選「2020中國人工智慧領航企業」,推動AI普惠和商業化進程
    (原標題:澎思科技當選「2020中國人工智慧領航企業」,推動AI普惠和商業化進程)