至頂網軟體頻道消息: 谷歌公司日前推出可搶佔式GPU(Preemptible GPU), 谷歌稱搶佔式GPU對於在公有雲裡運行人工智慧項目的機構來說是一種更實惠的方式。
谷歌發布的可搶佔式GPU提升了旗下基礎架構即服務平臺的功能,可搶佔式GPU是一種用於運行機器學習工作負載的按需圖形處理單元。
用戶可選擇Nvidia公司的K80或P100型號的晶片,二者均廣泛用於機器學習,原因是K80或P100可以並行處理大量的數據,例如處理用於訓練的數據和運行各種算法。據谷歌說,兩者的價格比標準計算實例中的租用價格低50%。
原因是這些GPU置於所謂的搶佔式虛擬機裡,搶佔式虛擬機是谷歌2015年推出的低成本虛擬機。這些虛擬機是利用軟體仿真的計算機,具有更高的靈活性和更低的成本。虛擬機在谷歌雲端數據中心裡未被使用的硬體上運行。因此,這些虛擬機的費用比用通常方式購買的實例要低得多。
不過,由於各數據中心的繁忙程度不一樣,可提供給用戶的可搶佔式虛擬機和可搶佔式GPU的數量也不一樣。因此,谷歌只允許客戶租用最多24小時。而且,如果其他地方需要基礎架構資源,谷歌可能會提前關閉實例或GPU。而在這種情況下,系統只會提前30秒發出通知,讓應用程式可以安全地結束。
因此,搶佔式GPU主要用於無需連續型的工作負載。搶佔式GPU對於AI項目的訓練階段應該是一個特別有吸引力的選擇。AI項目的訓練階段出現在應用程式投入生產之前,並且往往需要大量的計算資源。毫無疑問,如果能實質性地節省成本,許多公司肯定願意忍受偶然中斷的麻煩。
谷歌11月曾將圖形加速器的價格下調了36%,可搶佔GPU的50%折扣真可是錦上添花。雲領導者亞馬遜網絡服務公司(Amazon Web Services Inc.)推出的現貨實例(Spot instance)同樣也是以折扣方式將未使用的數據中心容量提供給用戶,但用 的方法不同。谷歌則推出可搶佔虛擬機應對。
Nvidia K80晶片可搶佔GPU起價為每小時22美分,Nvidia P100晶片可搶佔GPU起價為每小時73美分。