AI晶片熱潮再起,算力、帶寬、能耗、基礎設施等問題亟需解決

2020-12-19 愛集微APP

回顧2020年,AI晶片產業經歷著魔幻但又充滿希望的一年,一方面新型冠狀病毒肺炎疫情的蔓延,以及全景科技競賽加劇給半導體供應鏈帶來了無數挑戰,另一方面國內掀起了新一輪AI晶片資本投資熱潮,不少AI晶片公司成功登陸科創板,並還有大量公司進入IPO衝刺階段。這一年,AI晶片在這一新發展階段的產業態勢和落地動能讓業界矚目。

在近期的AI晶片創新峰會上,大牛們分別從架構創新、生態建設、落地應用等不同方面論述產業的價值和作用。與此同時,行業玩家跨界競賽、生態建設、應用落地,以及眾多玩家在晶片架構、材料、封裝技術等方向的追逐創新,既給整個行業拓寬了發展邊界,也帶來新的發展思路和方向。

AI晶片目前仍處於起步階段 未來大有可為

智一科技CEO龔倫常表示,今年半導體行業面臨著美國卡脖子的挑戰,但在大國博弈、國家戰略重視、資本市場的改革、產業升級的需求等多種因素的作用下,中國的半導體產業正在邁入黃金時代。

清華大學教授尹首一表示,AI晶片行業發展至今已走過了五、六個年頭,但仍處於起步階段。與此同時,人類社會正從信息化邁向智能化,人工智慧是實現智能化的關鍵手段,晶片則是其中的核心基石與戰略制高點。不管是耳熟能詳的AlphaGo、自動駕駛,還是手機中的人臉解鎖、智能拍照,亦或人們日常使用的無線耳機中的人機互動,都離不開AI晶片的支撐。

關於當前AI晶片的分類和中國AI晶片發展概況。據尹首一介紹,按技術路線劃分,目前的AI晶片主要包括深度神經網絡(DNN)處理器和神經形態處理器兩類。其中,DNN處理器可細分為指令集處理器、數據流處理器、存內計算處理器,以及可重構AI處理器。在尹首一教授看來,無論是哪種技術路線,最終目標都是實現對深度神經網絡的計算加速。另一個則是神經形態處理器,重要研究方向有CMOS SNN(脈衝神經網絡)處理器和神經形態器件,前者主要是對人腦活動的一種數學抽象,後者則是真正設計一種物理器件,並在物理上模擬人類的神經元行為。

回顧AI晶片的階段性發展,尹首一教授總結到:1、目前AI晶片仍處於起步階段,在科研和產業應用方面具有廣闊的創新空間;2、AI晶片從算法和應用角度給行業提出了許多創新需求,促使人們探索更多的顛覆性技術,有望徹底突破傳統架構的性能和能效瓶頸,實現集成電路的跨越式發展;3、中國AI晶片產業創新正與國際同步,有著最全面的技術路線、最豐富的應用領域,伴隨著人工智慧產業的快速發展,我國AI晶片領域大有可為。

半導體投資熱情高漲 做好晶片也要做好生態

自2019年我國科創板設立以來,越來越多的AI晶片企業都想要搶灘登板上市。尤其從新基建到十四五規劃建議,再到國家層面持續強調的國際國內雙循環新發展格局,AI晶片的投資又迎來新的高潮。

北極光創投合伙人楊磊表達了他對今年半導體投資與未來趨勢的獨到見解。楊磊認為,今年半導體的投資熱情比去年更高漲,半導體行業的發展也經歷了從「比你便宜比你差」到「和你一樣」,再到「比你快比你好」的三個階段。在楊磊看來,國內許多行業已經入人工智慧、5G和物聯網等應用的爆發拐點,不僅具有全球最為完善的電子信息產業鏈,還具備全金字塔人才。同時,AI晶片產業還處於發展前期,仍在向上發展,尚沒有到達泡沫崩掉的節點,如今可能是進入行業的最好時機。但楊磊並不看好由軟體基因走向晶片硬體的路子。

中芯聚源合夥管理人張煥麟則認為,做晶片既要做好晶片也要做好生態,晶片本身除了要達到客戶要求,還需軟體、工具鏈、方案等在生態上的配合。想要做一個專業的晶片公司,還需在資源、人才、團隊配備等方面保持長久的競爭力。此外,張煥麟還認為數據的產生、傳輸、存儲、計算、應用都離不開晶片,新的針對AI晶片的宏觀政策也是在適應如今經濟和產業的發展潮流,從市場機會上看這幾年是半導體行業發展較快的時機。

算力、帶寬、能耗、基礎設施之間的不協調日益增長

賽靈思人工智慧業務資深總監姚頌談到,儘管PC與網際網路、移動計算、人工智慧等關鍵應用引領了晶片的一次又一次升級,但目前為止晶片的計算能力還有很大的提升空間。姚頌認為,AI晶片核心解決的是帶寬不足的問題,相比高效但成本極高的超大片上存儲方式,現在行業更多是採用微架構的方式去解決問題。但在姚頌看來,目前數字AI晶片可能不存在顛覆性創新的大機會,尤其隨著摩爾定律發展放緩,未來正面戰場無法單純依靠架構技術創新取得實質性提升,因此新的技術路線開始得到關注,例如存內計算、光計算等。未來,行業最終將會形成雲端相對統一,終端相對垂直的競爭格局。

壁仞科技聯合創始人、總裁徐凌傑表示,行業的根本矛盾在於日益增長的算力需求和基礎設施的不協調,同時數據中心正經歷著大型化、解耦化、智能化的發展,「去CPU中心化」的數據中心將是未來可預見的發展趨勢之一。

Cadence公司驗證事業部產品工程總監孫曉陽談到,在數據爆炸的時代,越來越高的需求算力給AI晶片行業帶來了諸多挑戰。同時,電池效率、溫度等晶片周邊產品的性能,亦成為晶片設計商需權衡、考量的要素。

知存科技CEO王紹迪談到,目前「內存牆」的問題越來越嚴重,面臨數據搬運慢和搬運能耗大的問題,緩存的大小和密度都很難提升,存算一體技術就是要解決「內存牆」的問題。王紹迪說,存算一體的本質是用存儲器直接做計算,但高算力、低功耗的特性使其應用場景與傳統SoC晶片不同,因此需要在AI音頻、健康等領域做更多應用創新。王紹迪談到,目前基於Flash的存算一體晶片技術停留在28nm階段,但存儲密度和運算效率高於最先進的馮諾依曼架構晶片,未來將有機會進入22nm和基於Chiplet的應用方式,讓存算一體以更多形式與現有晶片集成,豐富應用場景。

新基建、數據中心、光學AI領域成新風口

近兩年來,雲端及邊緣端AI晶片已經成為行業的熱門話題。尤其隨著新基建風口熱度的掀起,更是為雲端和邊緣端著兩條賽道的玩家提供了許多極具潛力的落地方向。但如今,國內的這兩個細分市場仍處於新玩家湧出、巨頭強勢盤踞的局面。

比特大陸AI業務線CEO王俊提到,今年上半年,國家發改委提出新基建的三大領域,分別為信息基礎設施、融合基礎設施和創新基礎設施。在他看來,智慧城市是新基建的集大成者,人工智慧是新基建的核心使能共性技術。「智慧城市針對醫療、金融、安全和交通等各領域都有著海量的數據智能化需求,由城市統一建設的AI超算中心來支撐龐大而繁雜的AI計算是最高效的解決方案。」王俊說。

燧原科技創始人&COO張亞林提到,目前數據中心正在朝著整合的路線發展,英特爾、英偉達和AMD三家公司都在通過併購方式來加強數據中心的布局。「未來或將出現這三巨頭並列發展的局面。」張亞林說。在張亞林看來,AI系統要落地數據中心必須具備四個要素,分別為系統集群、板卡、高性能高算力的晶片,以及全棧的軟體。而衡量一個數據中心的AI系統需要從完備性、生產率、成本、功耗和性能五個維度來考量。「當下雲端AI晶片產品化面臨著系統化、工程化、產品化、生態化四大挑戰。」張亞林談到,這些挑戰不僅構成了整個雲端AI晶片發展的難點,同時也是未來AI雲端晶片發展的重點。

關於AI晶片,光子算數CEO白冰提到,光學AI晶片仍處於一個比較早期的發展階段。白冰解釋說,光學晶片能夠加速AI算法中的特定算子,完整的系統是一個光電混合的AI計算硬體系統,執行完整AI算法。AI算法的運算/訪存特徵與光電混合AI計算硬體系統的物理架構匹配,是一個軟硬協同的加速計算過程。

自主IP、人臉識別、自動駕駛成未來重點賽道

AI晶片發展至今,其創新解法已不單局限在核心架構和算力的演進中,許多企業已逐漸走上了軟硬協同的發展路子,尤其在國家進一步強調國際國內雙循環新發展格局的發展下,各細分賽道代表玩家,他們又有著哪些不同的創新思考?

Imagination副總裁&中國區總經理劉國軍透露,全球包含Imagination IP的晶片累計出貨已超110億,其中移動GPU IP市佔率約38%,汽車GPU IP市佔率則高達43%。到2024年,全球邊緣推理和雲端推理晶片市場規模將達110億美元,其中邊緣推理晶片佔63.6%。

安謀中國市場及生態副總裁梁泉談到,近兩年第五波計算浪潮正在改變這個世界,Arm計算架構已成為全平臺標準,在數據中心、邊緣和PC等領域都有著較好的發展。面向AIoT領域,安謀中國構建的AIoT技術生態已覆蓋CPU、GPU、AIPU等各類產品,同時提供強大軟體工具鏈。

億智電子聯合創始人&COO吳浪指出,AI技術發展至今,人臉識別、視像安防、汽車電子等領域對AI視覺技術的訴求已經從「看得見」、「看得清」向「看得懂」發展。以人臉識別為例,2019年開始,基於AI的專用SoC晶片,開始在嵌入式設備中規模化商用。這一過程中,產品需求與SoC晶片是互相拉動的關係,而AI的產品化落地需要複雜的產品打磨過程。

黑芝麻智能科技CMO楊宇欣認為,自動駕駛是未來十年最大的一個賽道,正以肉眼可見的速度來到人們生活,其中L2+L3車型已經成為消費者剛需。他提到,「軟體定義汽車」是汽車智能化的發展趨勢,越來越多的軟體應用在硬體平臺上運行,需要強大的計算平臺「預埋」以支撐軟體的不斷迭代。楊宇欣認為自動駕駛要實現突圍,大算力晶片是自動駕駛技術的基礎,還需要高性能的車規級計算平臺作支撐。同時,自主研發核心IP、車規安全認證和成熟的工具鏈,以及圍繞車規級高性能計算平臺構建完整生態系統,都是重要的解決思路。

地平線首席戰略官鄭治泰還提出了MAPS評估法,即「在精度有保障範圍內的平均處理速度」,得到一個直面物理世界的全面、完整、客觀、真實的評估,以此作為評估晶片AI真實性能的標準。

與此同時,多家公司還首次在會上公布了最新產品進展及發展路線圖。壁仞科技預計在明年流片首款同時支持AI訓練和推理的晶片產品;黑芝麻智能將於2021年投片A2000大算力晶片,支持L4/L5級自動駕駛;地平線明年將挑戰100萬片晶片出貨量;知存科技明年初將批量試產WTM2101晶片。

(校對/Humphrey)

相關焦點

  • 亂戰中的AI晶片,創新與隱患誰更突出?
    當下,邊緣側AI應用需求越來越迫切,帶動著相應的AI推理晶片向前發展。所謂邊緣側AI,是指在端側設備本身,而不是在雲端或大型數據中心伺服器上運行AI推理,這樣做具有多種益處,例如消除了處理延遲,減少了數據傳輸量和帶寬,並且還可以增加隱私安全。
  • AI產業化與產業AI化,知否算力有多重要?
    報告認為,「隨著AI算法突飛猛進的發展,越來越多的模型訓練需要巨量的算力支撐才能快速有效地實施,算力是未來人工智慧應用取得突破的決定性因素。」AI產業化從點到面實現突破作為引領世界未來的顛覆性技術,AI正在創造新產業、新業態,並改變人類生活。目前,我國已重點部署從信息基礎設施、融合基礎設施、創新基礎設施三大方面推進「新基建」發展。
  • 被帶寬限制的AI性能,在HBM2和GDDR6上「重生」
    在第二階段,即規約階段(Reduction),需要每個引擎與所有其它引擎交互更新信息,讓晶片彼此了解其它晶片的更新並接受來著其他晶片的更新,得以更新自己的模型,恢復模型間的同步,再次擁有相同的模型副本。顯然,這一階段的性能主要取決於晶片間鏈路帶寬的限制。
  • 只需要7nm晶片1.25%的能耗,就能運行這顆超導晶片,包含冷卻開銷在內
    這種晶片的關鍵構成部分,是一種名為AQFP (絕熱量子通量參變器)的節能超導數字電子結構。AQFP結構,能處理所有計算問題,包括數據處理和數據存儲。事實上,超導晶片的研究,已有相當長的時間。目前,這一類設施的能耗,已經佔據全球電力的10%。
  • 看懂未來十年AI晶片趨勢!GTIC 2020 AI晶片創新峰會成功舉行
    在徐凌傑看來,行業正面臨日益增長的算力需求和基礎設施當中不協調根本性的矛盾,同時數據中心正經歷著大型化、解耦化、智能化的發展,「去CPU中心化」的數據中心將是未來可預見的發展趨勢之一。鄭治泰還談到,地平線將通過打造完整的數據閉環,提供「晶片+工具鏈」、「晶片+工具鏈+算法」等不同解決方案,賦能產業鏈。而構建這一計算閉環需要長期做三件事,一是持續提升晶片的有效算力,二是提升算法效率,三是根據解決物理世界的實際問題聯合調優得到最優解。
  • AI晶片「點燃」北京!GTIC 2020 AI晶片創新峰會大咖演講全乾貨
    在徐凌傑看來,行業正面臨日益增長的算力需求和基礎設施當中不協調根本性的矛盾,同時數據中心正經歷著大型化、解耦化、智能化的發展,「去CPU中心化」的數據中心將是未來可預見的發展趨勢之一。▲黑芝麻智能科技CMO楊宇欣成立於2016年的黑芝麻智能是我國自動駕駛晶片明星創企之一。
  • 完美體現華為麒麟810晶片的超強實力 升級版AI跑分高達41838分
    近日,知名跑分網站 ai-benchmark 上公布了麒麟 820 晶片的 AI 跑分,高達 41838 分,僅次於麒麟 990 5G 與聯發科的天璣 1000,排在第三位。據悉,麒麟 820 5G SoC 晶片,在「一代神 U」麒麟 810 的基礎上再次升級:強勁 8 核 CPU 性能提升 27%、新架構 GPU 圖形能力提升 38%、新升級 NPU AI 性能提升 73%。值得注意的是,麒麟 820 採用麒麟 990 同款 Kirin ISP 5.0,支持 BM3D 單反機圖像降噪和視頻雙域降噪。
  • AI晶片2019年的六大關鍵詞和2020年的四大趨勢
    上千個處理器工作,單個IPU的存儲帶寬能達到45TB,比性能最快的HBM提升了50倍以上,在相同算力下,功耗降低一半。同月,知存科技發布存內計算晶片,他們的晶片利用FLASH既可以存儲又可以計算的特性,通過對存儲陣列改造以及重新設計外圍電路使電路能夠容納更多數據,滿足AI算法的需求。同時,利用NOR-FLASH更加成熟和易於商用的特點,推出存算一體的AI語音晶片。
  • CES首日:Intel和AMD神仙打架 這家公司全力展示AI晶片+場景案例
    Intel推首款獨立顯卡以求擺脫AMD等廠商,AMD則一口氣推出多款7nm晶片,進軍PC。Intel和AMD神仙打架,一些國內AI晶片廠商則趁勢崛起。定位於邊緣AI晶片的嘉楠,就在這個2020世代的第一場消費電子盛會完成了首秀。嘉楠勘智K210如期亮相。這款晶片採用RISC-V架構,是國內ASIC領域為數不多支持視聽覺多模態識別的晶片。
  • 汽車AI晶片創業公司地平線,是如何實踐軟體定義汽車的?
    晶片作為未來智能汽車的大腦,直接影響智能座艙和自動駕駛,自然也成為智能汽車時代的必爭之地。智能汽車面對非常複雜的環境,感知、融合、決策需要巨大的計算能力,而傳統的通用計算平臺的算力功耗比TOPS/W居高不下,而且算力的利用率極低,已經成為智能汽車性能提升的瓶頸。因此AI晶片成了車用晶片的最佳解決方案,特斯拉於2016年開始了汽車AI晶片的自研之路。
  • 從帝國理工走出的中國AI晶片新秀,造出全球首款量產數據流AI芯!
    ……這些問題對應晶片的特性,可總結為幾個關鍵詞:算力性價比、架構通用性、軟體易用性。就在昨天,6月23日,一家深圳AI晶片創企鯤雲科技推出其首款數據流AI晶片CAISA,在這三個特性上均有出色的表現。CAISA晶片是面向邊緣和雲端高性能AI推理晶片,已量產,峰值性能達10.9TOPS,有良好的通用性和易用的軟體工具鏈,並且晶片利用率最高可達95.4%,較同類產品提升了10倍,也就意味著更高的算力性價比。根據中國人工智慧產業發展聯盟(AIIA)的數據,CAISA晶片僅用1/3的峰值算力,即可實現英偉達同類產品(NVIDIA T4)最高3.91倍的實測性能。
  • 在算力「沃土」上,種植網際網路下一個奇蹟十年
    作為算力集群的數據中心,也以數據流轉樞紐和業務承載平臺的角色,成為網際網路行業必不可少的基礎設施。許多企業甚至不惜大力投入自建自研數據中心。   當前網際網路產業到底需要怎樣的算力?又該如何提升數據中心的價值效率?帶著這一系列問題,我們來重新審視習以為常的網際網路世界。
  • 超越英偉達的,不會是另一款GPU——鯤雲數據流架構AI晶片利用率...
    pJQednc因此採用數據流架構的晶片能夠同時解決馮諾依曼指令集架構中的晶片利用率低和延時高的問題,可以說:魚與熊掌兼得,這是技術創新帶來的好處。pJQednc6月23日,鯤雲科技在深圳發布了自主研發的AI晶片CAISA,這款晶片就是基於數據流架構,也是全球首款數據流架構AI晶片。
  • 嘉楠科技第二代AI晶片K510投片 算力3TOPS功耗僅3W
    來源:金融界網站12月11日,嘉楠科技董事長兼執行長張楠賡宣布,公司第二代AI晶片勘智K510正式投片。歷經兩年研發,該晶片定位於中高端市場,是完全面向應用場景的一款邊緣側AI晶片。投片意味著勘智K510進入試量產階段。
  • 賽靈思姚頌:AI晶片顛覆式創新難
    12月1日智東西現場報導,GTIC 2020 AI晶片創新峰會今日開幕,賽靈思⼈⼯智能業務資深總監、前深鑑科技CEO姚頌現場發表了題為《AI晶片:新格局與新出路》的演講。
  • 光子AI晶片算法先行硬體跟進,為傳統加速計算卡裝上「渦輪增壓」
    白冰說,計算卡現在的性能可用,不過還比較初步,能做到36路1080P視頻同步處理,功耗不到70W,算力資源相對有限,混合精度下峰值算力接近20TOPS,光部分為低精度,電部分為高精度。 其中光子協處理引擎模塊用的是兩個QSFP28的光通信接口(每個都是100GB/s),光通信物理接口非常成熟,其光學帶寬大約達200GB/s,典型功耗達7W,算力在1.2TOPS左右。該模塊支持熱插拔,不需要經過預調,內部封裝了一些適合於用光學做的特殊的算子函數,比如隨機投影、高維空間變換映射、壓縮、小規模卷積、時間序列等高算子。
  • 華為雲擎天架構 引領雲基礎設施升級
    【中國,深圳,2020年5月20日】2020年華為全球分析師大會上,華為雲CTO張宇昕介紹了華為雲最新推出的華為雲擎天架構,並發布由擎天架構加持的「零損耗」裸金屬容器解決方案,引領雲基礎設施升級。>圖 華為雲CTO張宇昕解讀華為雲擎天架構雲邊端全場景,擎天架構全搞定擎天架構由華為歷時八年打造,從2012年啟動預研,2014年構建軟硬協同系統,2017年應用於華為雲,由500+專利加持、10萬+節點打磨,實現了「支持共享存儲的裸金屬伺服器」、「千萬級PPS轉發實例」、「40G帶寬裸金屬伺服器
  • 天數智芯發力高性能雲端計算大晶片 努力啃下AI晶片「硬骨頭」
    「我們重點打造自主可控、國際一流的通用、標準、高性能雲端計算大晶片GPGPU(通用圖形處理器),目前我們的7納米GPGPU雲端晶片已經進入流片階段。」上海天數智芯半導體有限公司董事長蔡全根日前告訴記者,作為中國GPGPU大晶片及軟體為核心產品的技術企業,天數智芯瞄準以雲計算、人工智慧為代表的數據驅動技術市場,重點打造國內雲端高性能計算晶片產品,解決核心計算力瓶頸問題。
  • 無懼刀光劍影,黑芝麻科技立足於AI晶片市場的資本是什麼?
    單記章介紹道,今年8月,黑芝麻智能科技發布了「華山一號」自動駕駛晶片A500(也稱HS 1)。單個A500 SoC可提供5-10TOPS的算力,能效比大於4TOPS/W,可以支持L2/L2.5級自動駕駛系統。
  • 創維ai晶片電視怎麼樣 創維ai晶片電視優勢介紹【詳解】
    近幾年AI技術是被很多人提起的話題,為了讓人們真正感受到它的神奇,很多品牌會將其運用在自家產品上,其中創維新推出的ai電視就是運用了這一項科技,在發布會當天就引起了人們的極大興趣,這是一次跨越性的挑戰,意味著電視再一次進入了換新的時代。