趨動科技:用軟體定義AI晶片資源池滿足底層算力需求

2020-12-09 快鯉魚

隨著AI技術不斷迭代更新,對底層算力的需求也越來越大。

2020年7月9日,英偉達市值首次超過英特爾,成為半導體領域市值第二的企業(第一名是臺積電)。

有關人士分析,英偉達的崛起離不開AI產業的發展。英偉達主攻的GPU在算力上約超出CPU2~3個數量級,與AI產業結合效果更佳,這也是英偉達能夠在當前市場以底層算力晶片贏得高速發展的重要原因。

但是,算力更強的GPU晶片也暴露出另一個顯著問題:利用率低

「AWS在2018年放出的一組數據顯示,其GPU產品平均利用率僅為10~30%。國內有不少用戶的利用率甚至不足10%,對這些用戶而言,一枚售價1萬美元的晶片其中9000美元是浪費的。幫助企業提高GPU的使用效率成了新的市場風口。」趨動科技創始人王鯤博士介紹到。

在此背景下,王鯤於2019年創辦了趨動科技,一家AI算力資源池化軟體公司

王鯤2005年從中科大計算機系博士畢業後加入IBM中國研究院,後入職微軟亞太研發中心,離開微軟後任EMC中國研究院的院長,負責整個EMC中國研究院在中國區相關的工作和項目。王鯤在創業前的14年工作經驗,基本上都是圍繞著底層的、晶片虛擬化、軟體相關的工作展開。

王鯤介紹到,在目前市場中,物理GPU利用率低已成為行業共識,同等投入下,直接使用物理GPU的利用率遠不及使用基於軟體定義的虛擬GPU,主要原因在於直接使用物理GPU很難做到資源使用的按需分配以及動態伸縮,而基於軟體定義的虛擬GPU則可以很容易地做到這兩點,根據任務大小決定分配多少計算資源到該任務,比直接使用物理GPU更為靈活,也更為科學

從技術發展角度,AI的滲透越來越深入,AI+概念的輻射場景變多,數字原生企業的出現和傳統企業的數位化、智能化轉型都離不開AI技術的發展與突破,那麼作為底層算力支持企業,趨動科技的核心產品OrionX AI(獵戶座 AI加速器資源池化解決方案)能夠幫助企業將已有的GPU進行虛擬化,藉助於 OrionX AI 加速器資源池解決方案,以往 AI 應用/CUDA 應用獨佔 GPU 等 AI 加速器資源的情況將不復出現。

趨動科技將所有的AI加速器硬體池化後,將其虛擬成眾多顆粒度可靈活調整的 vGPU,隨時為 AI/CUDA 應用提供 AI 加速能力,極大提升 GPU 等 AI 加速器的利用率。平均物理 GPU 的利用率將從以前的10%~30%提升至90%

另一方面,趨動科技也根據市場用戶不同,採取了兩種不同的部署模式。

對於已有私有雲的企業來講,獵戶座 AI加速器資源池化解決方案可將零散的多個GPU算力單元整合為統一接口、統一部署的GPU資源池。

對於尚未部署私有雲的企業而言,趨動科技則與Dell 和浪潮等企業達成戰略合作,將趨動科技的產品預裝到其伺服器或私有雲產品中進行產品集成。用戶在購買私有雲解決方案,或者伺服器硬體時即可直接使用到趨動科技的資源池化軟體。

據介紹,趨動科技目前團隊規模約100人,且仍在快速增長中,其中技術人員佔比達70%。

王鯤表示:「趨動科技的3位聯合創始人都來自EMC,此前我們也一起在IBM共事過,在GPU虛擬化、資源池化領域擁有十餘年研發經驗,擁有完整智慧財產權。」

目前,採用標準化、可複製的產品架構,趨動科技已經打入了多個行業,如網際網路行業(搜狗已採購且已部署)、教育行業(清華大學與西安市共建的交叉信息核心技術研究院已經採購部署)、金融(銀行、證券、保險)、電信、能源等,企業預期營收達千萬。

王鯤認為,作為底層基礎架構服務商,趨動科技也擁有良好的延展性,不會被產業邊界束縛。例如5G、雲遊戲、雲VR等技術領域,作為新興通訊娛樂方向,由於採用雲計算技術,同樣需要更強的算力支持,而趨動科技則可以極大優化算力資源配比,提升底層算力。而未來產業技術的發展趨勢也逐漸向前端簡單化、底層複雜化的方向演化,對於趨動科技來講,未來可接觸的領域和範圍也將逐步擴大。

融資方面,趨動科技於今年11月9日宣布完成數億元A輪融資,是12個月內的第三筆融資。此次融資由順為資本領投,嘉御基金、高瓴創投和湧鏵投資跟投。本輪資金主要用於公司產品的市場推廣、客服體系的建設、產品線的擴充以及進一步加大研發投入並加快產品迭代。

圖片來源:趨動科技、攝圖網

相關焦點

  • 雲時代的軟體定義為ISV夥伴定義了什麼?
    自從十年前「軟體定義網絡」作為首個「軟體定義」的IT資源池設施被定義以來,其與虛擬化一道始終被合作夥伴不斷「買單」,輸送至客戶端。那麼,軟體定義如今與ISV又是一種怎樣的化學反應?軟體定義IT資源池設施的組成部分是IT基礎設施硬體,猶如一個個組裝成的盒子,硬體難以適應業務快速變化的需求,是不同類型的基礎設施的共性問題所以會有軟體定義基礎架構的概念推出,以滿足用戶業務變化發展的需求。換句話說,軟體定義的基礎架構和數據中心,則是通過雲計算技術和手段,以軟體定義的形式讓雲服務在用戶端落地。
  • 燧原科技發表主題演講:以普惠的算力驅動AI產業發展 科技聚焦
    燧原科技參加第三屆全球IC企業家大會暨第十八屆中國國際半導體博覽會專注人工智慧領域雲端算力平臺的燧原科技攜「雲燧T10/T11」首次參加了第三屆全球IC企業家大會暨第十八屆中國國際半導體博覽會(IC China 2020),燧原科技創始人兼執行長趙立東在企業家大會的主論壇上發表了「以普惠的算力驅動AI產業發展」的主題演講。
  • 嘉楠科技第二代AI晶片K510投片 算力3TOPS功耗僅3W
    來源:金融界網站12月11日,嘉楠科技董事長兼執行長張楠賡宣布,公司第二代AI晶片勘智K510正式投片。歷經兩年研發,該晶片定位於中高端市場,是完全面向應用場景的一款邊緣側AI晶片。投片意味著勘智K510進入試量產階段。
  • 【芯觀點】後摩爾時代的AI革命:算力需求激增,催生晶片創新
    【芯觀點】後摩爾時代的AI革命:算力需求激增,催生晶片創新2.OPPO Reno5 Pro硬體參數曝光,搭載聯發科天璣1000+3.美方通過法案威脅禁止中國公司在美上市?外交部回應4.彭元:中國半導體差距主要在EDA,設備,材料,模擬晶片5.搭載天璣1000+,榮耀重組後首款新機已備案6.京東宣布Redmi Note9 Pro斬獲手機品類單品銷量冠軍1.【芯觀點】後摩爾時代的AI革命:算力需求激增,催生晶片創新
  • AI晶片需求增長,探境科技的商業化落地實踐 | 愛分析訪談
    調研 | 張揚 施堯 王磊  撰寫 | 王磊  「  隨著AI 算法不斷升級,傳統晶片已逐漸無法滿足AI算法對算力的要求,從而催生了對AI晶片的迫切需求。目前主流的深度學習算法具有高並發、高耦合等特點,傳統晶片算力無法支撐,催生了專門用於AI計算的AI晶片的發展,AI晶片已成為整個人工智慧產業鏈的核心。  而在AI晶片中, AI語音晶片的需求尤為強勁。  隨著技術的演進,人機互動的方式也在逐漸升級。
  • AI產業化進入深水區,算力瓶頸如何破?
    早期,算法的突破決定著AI的發展水平,AlphaGo戰勝李世石標誌著深度學習算法的突破性進展;接著,AI被越來越多科技企業重視,各家都紛紛布局AI,導致AI人才一下變得十分稀缺;接下來,在AI產業化的深水區,最大制約要素則成為算力。
  • 試談軟體定義的本質、特徵、路徑和內涵
    管理功能可編程,則是應用對通用計算系統的核心需求。主要表現在訪問資源所提供的服務以及改變資源的配置和行為兩個方面。在硬體資源虛擬化的基礎上,用戶可編寫應用程式,通過系統調用接口,訪問資源所提供的服務,更重要的是能夠靈活管理和調度資源,改變資源的行為,以滿足應用對資源的多樣需求。
  • 區塊鏈第一股嘉楠科技的AI晶片生意
    用設計礦機晶片的能力設計AI晶片兩條腿走路肯定比一條腿走路更好,可以用於解釋嘉楠科技在區塊鏈市場成功之後繼續開拓市場的原因,但為什麼選擇AI?嘉楠科技創始人、董事長兼執行長張楠賡與雷鋒網對話時表示,「最後選擇AI主要有兩大原因,一是AI算法對重複計算確實有較強的需求,二是我們擅長的ASIC確實有用武之地。」
  • 5款晶片已經面世,可重構架構是AI晶片的新風潮?
    在其今年11月發布的專注邊緣和端側視覺新產品DeepEye1000介紹中提到,採用存算融合體系架構和可重構計算陣列,可以靈活、高效的執行各種深度學習算法模型的推理計算,峰值算力達2.0Tops。耐能耐能今年5月在國內發布物聯網專用AI SoC——KL520時表示這款新品使用了可重組架構,雖然不是可重構技術,但兩者之間同樣存在關聯。還是用上面的類比來解釋,耐能的架構是積木層級的可重組,清微智能的可重構則是麵粉層級的可重組,更加底層。
  • 從帝國理工走出的中國AI晶片新秀,造出全球首款量產數據流AI芯!
    而談及AI晶片,人們也不再局限於只看峰值性能和最大功耗,關注重心逐漸回歸到需求本身:能落地哪些場景?好不好用?使用壽命有多長?物理成本夠不夠低?……這些問題對應晶片的特性,可總結為幾個關鍵詞:算力性價比、架構通用性、軟體易用性。
  • 中國AI算力佔全球三成!IDC 最新報告解讀,算力仍是AI發展最強推力
    數據顯示,2012~2018年晶片的計算性能提升的30多倍,但從AlexNeT到AlphaGo Zero,算法對算力的需求卻提升了30萬倍,近期熱門的GPT-3的訓練數據量和模型規模也十倍、千倍地增長。
  • 汽車自動駕駛產業鏈深度報告:晶片及軟體專題|智能座艙|軟體定義...
    隨著液晶儀表以及其他安全功能的普及, 供應商不需要裝載多個硬體來實現不同的功能需求,只需要在車載主晶片上進 行虛擬化的軟體配置,形成多個虛擬機,在每個虛擬機上運行相應的軟體即可 滿足需求。行業領先虛擬機有:QNX Hypervisor、ACRN、PikeOS 和哈曼 Device Virtualization,用於服務底層作業系統。
  • 這家公司用晶片告訴你:是算力!
    在第七屆世界網際網路大會上,中國首款車規級人工智慧晶片地平線徵程2入選「世界網際網路領先科技成果」。徵程2代表了地平線在邊緣人工智慧晶片領域所取得的技術突破,實現了國產車規級AI晶片的前裝量產。
  • AI產業化與產業AI化,知否算力有多重要?
    AI產業化時代,計算量會指數級增長,傳統雲計算、數據中心等傳統基礎設施架構下的算力已無法滿足需求。提升算力須解決生態問題人工智慧正在從人工智慧本身的產業化向各個產業的人工智慧化發展,也就是從人工智慧產業化向產業人工智慧化發展,而新一輪計算力革命的目的就是滿足產業人工智慧化大生產的計算力需求。然而,提升計算力不能僅僅靠技術本身,生態的作用會越來越重要。也就是說,智能計算力革命需要全社會多方參與、多管齊下。
  • Live回顧:值得你去了解的「存算一體AI晶片技術」
    比如說像我們手機、可穿戴智能家居,這些市場中用的晶片都是邊緣人工智慧計算的晶片,這類的邊緣晶片它們有多種要求,一個是首先要求晶片的成本必須要足夠低,在邊緣這個場景下,要求功耗要低,另外還是要滿足人工智慧運算所需求的算例。
  • AI晶片2019年的六大關鍵詞和2020年的四大趨勢
    開創了全新的處理器類型IPU,IPU是專為機器智能設計的處理器,能夠滿足人們對高效易於使用的處理器的需求。上千個處理器工作,單個IPU的存儲帶寬能達到45TB,比性能最快的HBM提升了50倍以上,在相同算力下,功耗降低一半。 同月,知存科技發布存內計算晶片,他們的晶片利用FLASH既可以存儲又可以計算的特性,通過對存儲陣列改造以及重新設計外圍電路使電路能夠容納更多數據,滿足AI算法的需求。
  • AI產業化從點到面實現突破,算力成AI突破的決定性因素
    回顧2020年,一場新冠疫情成為各行業全面步入在線化時代的「催化劑」,但以人工智慧為代表的新一代科技如何真正地深度應用於不同行業,當前仍舊面臨著「最後一公裡」難題。報告認為,「隨著AI算法突飛猛進的發展,越來越多的模型訓練需要巨量的算力支撐才能快速有效地實施,算力是未來人工智慧應用取得突破的決定性因素。」
  • 嘉楠科技發布自研晶片勘智K210 推動AI落地應用
    這樣的背景下,嘉楠科技等本土芯勢力正迎來春天。突破口在於邊緣側市場。目前,傳統IDC的建設速度無法追趕日益爆發的設備增量,算力下沉至邊緣側成為趨勢。另一方面,邊緣側AI晶片強調專用化,即面向細分場景進行研發設計,市場空間廣闊。就嘉楠科技等本土晶片廠商而言,無論在產品能耗比的提升,還是根據業務場景定製算法等方面,都面臨巨大機遇。
  • 雙算力架構引領大國GIS「雲」崛起
    利用大數據、雲計算等先進信息技術構建兩大資源池:數據資源池和計算資源池,將數據存儲與計算任務分布式部署在由大量計算機構成的資源池上,使用戶能夠按需獲取存儲能力、計算能力和基礎應用。同時,資源池還要解決異構多源和協同工作問題。
  • 區塊鏈第一股嘉楠科技欲用AI晶片改頭換面
    原標題:區塊鏈第一股嘉楠科技欲用AI晶片改頭換面   全球