2020 年 6 月 15 日,業界應用最為廣泛的Kubernetes管理平臺創建者Rancher Labs(以下簡稱Rancher)宣布與初創科技公司趨動科技 達成深度合作,推動GPU資源池化在Kubernetes中落地。Rancher的旗艦產品Rancher 2.x 是一款核心鏡像量下載量超 3 億、擁有逾 40000 家企業用戶的企業級Kubernetes管理平臺。Kubernetes發展如日中天,越來越多的用戶將AI計算平臺搬到Kubernetes上,如何讓工作負載更靈活地使用GPU資源成為了企業的核心訴求,Rancher與趨動科技的合作完美解決了這一核心問題。
趨動科技由多位具有世界 500 強中國研究院負責人背景並且具有共同遠大理想的高科技人才創立,專注於為全球用戶提供國際領先的數據中心級AI加速器資源池化和虛擬化軟體及解決方案。其旗下主要產品OrionX GPU資源池化解決方案(獵戶座GPU資源池化解決方案)可以在幾乎零性能損失的情況下,提供對於物理GPU的細粒度、可遠程、運行時動態可配置的虛擬化方案。通過高效的通訊機制,使得AI應用、CUDA應用可以運行在雲或者數據中心內任何一個物理機、容器或者VM內,而無需掛載物理GPU,同時為這些應用程式提供在GPU資源池中的硬體算力。
解決K8S的GPU管理挑戰
Kubernetes現已成為容器編排調度的事實標準,但在開源生態中,Kubernetes使用GPU資源一直存在諸多限制,比如僅能使用整數數量的GPU卡資源、Pod無法共享G卡、無法遠程調用GPU卡等。面對Kubernetes使用GPU資源的眾多難題,Rancher與趨動科技共同推出了面向Kubernetes的GPU資源池化聯合解決方案。Rancher可以同時管理多個Kubernetes集群,用戶可以通過其內置的應用市場Catalog開箱即用地將OrionX部署至各個業務集群,OrionX具備專業的GPU池化和虛擬化功能,可以無侵入地整合至Rancher託管的Kubernetes集群當中。最終,用戶可以極為方便地在Rancher平臺上進行GPU資源調度,從而讓工作負載使用OrionX提供的vGPU資源。
・簡單易部署,一鍵開箱試用
OrionX現已集成至Rancher中國的應用市場當中,開源用戶可以通過導入pandaria-catalog獲取這一應用,企業用戶無需導入即可輕鬆使用。除此之外,用戶還可以申請OrionX試用License,通過Rancher UI一鍵部署OrionX,OrionX可以部署在私有雲或公有雲上,並對GPU資源進行池化切分,讓Pod共享GPU資源,進一步提升GPU資源的使用效率。
・面向生產環境,企業級落地
企業級場景對GPU資源池具有更高的管理需求,因此需要更為專業的解決方案。在Rancher與OrionX的聯合解決方案中,除了對計算節點GPU資源切分外,還支持GPU遠程調用和多GPU聚合等功能。遠程調用如同「隔空取物」,讓計算平臺和GPU資源池完全解耦,更加有利於企業用戶的運維部署和管理。多GPU聚合如同「化零為整」,用戶可以將多臺物理伺服器上的GPU資源提供給單個Pod使用,無需修改用戶AI應用程式代碼。
加速AI創新與K8S落地
隨著容器技術不斷成熟發展,其細分領域逐漸開枝散葉,AI計算的容器化也是Kubernetes眾多發展方向的亮點之一。AI計算與容器化離不開Kubernetes對GPU的管理,以各種粒度切分並靈活管理GPU資源是企業對容器平臺的普遍需求。Rancher提供多樣而穩定的面向多雲環境的Kubernetes平臺,OrionX則提供專業的Kuebrnetes GPU資源池化功能,Rancher與趨動科技OrionX的合作讓GPU資源管理變得愈發簡單易用,助力企業更加高效地管理AI計算的基礎設施。
據悉,在本次推出聯合解決方案後,雙方還將繼續在邊緣計算領域開展更為深入的合作。在Rancher的「Software-Defined Edge(軟體定義邊緣)」邊緣計算解決方案中,OrionX將整合輕量級K8S發行版K3s,為用戶提供邊緣側的輕量級GPU虛擬化方案。
「Rancher對容器和Kubernetes的設計理念和實際運用是業界領先的。」趨動科技創始人及CEO王鯤博士稱讚道:「趨動科技的OrionX資源池化與Rancher 2.x的聯合解決方案為用戶提供了更大的價值和更加靈動的任務處理能力,加速推動AI計算與Kubernetes的發展及落地。」
作為一家開源中立的容器管理軟體提供商,Rancher一直致力於打造開放共贏的技術生態。目前,Rancher已與阿里雲、騰訊雲、華為雲、百度智能雲、平安雲、F5、AWS、SmartX等領先廠商達成深度合作,並先後加入了Nvidia初創加速計劃、邊緣計算產業聯盟、百度AI加速器等一系列生態聯盟,以幫助企業落地K8S為核心,為用戶打造簡單易用且強大的技術生態。
「Rancher一直堅持生態開放的策略,我們在專注做好Kubernetes及相關雲原生項目的同時,和專業的第三方廠商或平臺進行合作。我們始終相信,技術生態是保持技術先進性不可或缺的組成部分,與專業的企業合作可以直接為用戶帶來更大的技術價值。」Rancher中國CEO秦小康總結道:「我們將通過共建技術生態,為企業提供基於Kubernetes的計算力管理,最終推動計算無處不在。」