谷歌推出新型可搶佔式GPU 可用於在雲裡以實惠的方式運行AI

2020-12-11 至頂網

至頂網軟體頻道消息: 谷歌公司日前推出可搶佔式GPU(Preemptible GPU), 谷歌稱搶佔式GPU對於在公有雲裡運行人工智慧項目的機構來說是一種更實惠的方式。

谷歌發布的可搶佔式GPU提升了旗下基礎架構即服務平臺的功能,可搶佔式GPU是一種用於運行機器學習工作負載的按需圖形處理單元。

用戶可選擇Nvidia公司的K80或P100型號的晶片,二者均廣泛用於機器學習,原因是K80或P100可以並行處理大量的數據,例如處理用於訓練的數據和運行各種算法。據谷歌說,兩者的價格比標準計算實例中的租用價格低50%。

原因是這些GPU置於所謂的搶佔式虛擬機裡,搶佔式虛擬機是谷歌2015年推出的低成本虛擬機。這些虛擬機是利用軟體仿真的計算機,具有更高的靈活性和更低的成本。虛擬機在谷歌雲端數據中心裡未被使用的硬體上運行。因此,這些虛擬機的費用比用通常方式購買的實例要低得多。

不過,由於各數據中心的繁忙程度不一樣,可提供給用戶的可搶佔式虛擬機和可搶佔式GPU的數量也不一樣。因此,谷歌只允許客戶租用最多24小時。而且,如果其他地方需要基礎架構資源,谷歌可能會提前關閉實例或GPU。而在這種情況下,系統只會提前30秒發出通知,讓應用程式可以安全地結束。

因此,搶佔式GPU主要用於無需連續型的工作負載。搶佔式GPU對於AI項目的訓練階段應該是一個特別有吸引力的選擇。AI項目的訓練階段出現在應用程式投入生產之前,並且往往需要大量的計算資源。毫無疑問,如果能實質性地節省成本,許多公司肯定願意忍受偶然中斷的麻煩。

谷歌11月曾將圖形加速器的價格下調了36%,可搶佔GPU的50%折扣真可是錦上添花。雲領導者亞馬遜網絡服務公司(Amazon Web Services Inc.)推出的現貨實例(Spot instance)同樣也是以折扣方式將未使用的數據中心容量提供給用戶,但用 的方法不同。谷歌則推出可搶佔虛擬機應對。

Nvidia K80晶片可搶佔GPU起價為每小時22美分,Nvidia P100晶片可搶佔GPU起價為每小時73美分。

相關焦點

  • 谷歌推出搶佔式虛擬機和新一輪雲計算降價
    谷歌下調雲計算資源價格至30%,覆蓋了谷歌的所有計算引擎實例類型,並推出了新產品可搶佔式虛擬機(VMs),來提供低成本的和固定成本的短期能力。去年,谷歌致力於遵循摩爾定律定價雲計算——你可以在雲平臺讓你的手錶降價。現在它的定價大致是谷歌計算引擎2013年首次推出時的一半。
  • 谷歌升級可在瀏覽器內運行的免編程AI訓練工具
    谷歌剛剛升級了機器教學(Teachable Machine)人工智慧訓練工具。 作為一項可在瀏覽器內運行的功能,其源於該公司在 2017 年推出的一項網絡實驗,旨在方便人們理解機器學習的一些基本原理。 該應用程式的原始版本,僅僅是一個有趣的小實驗,可基於普通網絡攝像頭,對視覺數據進行分類。(題圖 via TheVerge )不過現在,谷歌已經向該系統添加了新的模式,並可導出訓練有趣的模型,從而使 Teachable Machine 2.0 成為了可用於構建實際 AI 工具的功能更加強大的系統。
  • 深度學習入門Fast.ai 2.0上線!自帶中文字幕,所有筆記、資源全部免費!
    fastai如果你想自己進一步修改開發Fast.ai,那麼需要安裝可編輯的版本:git clone —recurse-submodules https://github.com/fastai/fastaipip install -e 「fastai[dev]」當然,所有的安裝都要求電腦預裝最新版本的
  • TensorFlow推出命令式、可定義的運行接口Eager Execution
    安妮 編譯自 Google Research Blog量子位 出品 | 公眾號 QbitAI今天凌晨,谷歌宣布推出TensorFlow的eager execution。這是一個命令式的、可定義的運行接口,它們由Python調用,可用來立即執行操作。
  • 谷歌計劃推出行動支付服務Plaso 用戶說姓名縮寫可支付
    原標題:谷歌計劃推出行動支付服務Plaso 用戶說姓名縮寫可支付   谷歌計劃推出行動支付服務Plaso 用戶說姓名縮寫可支付   【TechWeb報導】外媒TheInformation援引知情人士消息稱,谷歌正計劃推出一款名為Plaso的支付服務
  • 谷歌在I/O平臺首次推出新型移動應用Firebase
    但是,由於應用程式的超負荷運行,開發商們在尋找一種更有效的方式使人們持續進入應用程式。今天,在軟體和應用程式開發人員I/O大會上,谷歌公司宣布其為開發人員推廣應用程式的方法,主要針對那些最有可能安裝遊戲或購物應用的人群,這些人通常會使用APP購買產品。
  • 英偉達官方解讀:Volta Tensor Core GPU實現AI性能新裡程碑
    比如,谷歌打造了 TPU(張量處理單元)加速器,能夠給可以運行在 TPU 上的數量有限的神經網絡帶來優良的表現。在這篇博文中,我們將分享英偉達最近的一些進展,這些進展能為 AI 社區帶來極大的 GPU 性能提升。採用這些改進,我們已經在單塊晶片和單個伺服器上實現了創紀錄的 ResNet-50 性能表現。
  • 百度推出EZDL,沒有編程經驗也可訓練AI
    它的目標受眾是中小型企業,旨在「打破障礙」,使得每個人都能「以最方便、最公平的方式」使用人工智慧。為了訓練模型,EZDL需要為每個模型分配20-100個圖像或超過50個音頻文件,並且需要訓練15分鐘到一個小時。(百度聲稱,超過三分之二的模型準確率超過90%。)生成的算法可以部署在雲中,通過API訪問,或者以支持iOS、Android和其他作業系統的軟體開發工具包的形式下載。
  • 微軟推出機器學習系統Brainwave,超低延遲、堪稱實時AI
    微軟今天推出了一款可以支持高速、低延遲機器學習模型的系統,也預示著微軟開始在專用AI硬體領域嶄露頭角。該公司展示的這個名為Brainwave的新系統,允許開發人員將機器學習模型部署到可編程晶片上,並獲得超出CPU或GPU的高性能。研究人員在加利福尼亞州庫比蒂諾熱舉辦的Hot Chips大會上演示了門控重複單元模型,在沒有批量操作的情況下,該模型運行在英特爾最新的Stratix 10現場可編程門陣列(FPGA)晶片上的速度可達到39.5萬億次浮點運算。
  • 谷歌推出手寫輸入工具:可識別草書和手繪表情
    《谷歌推出手寫輸入工具:可識別草書和手繪表情》文章已經歸檔,不再展示相關內容,編輯建議你查看最新於此相關的內容:Google突然換新界面 頁面將重新設計美國時間5月16日上午,Google公司在其公司總部舉行了一次名為Searchology(搜索學
  • 谷歌眼鏡完全體驗 僅是一個能夠運行可穿戴設備
    逐一嘗試了目前所有的谷歌眼鏡應用之後,科技媒體The Verge詳細描述了谷歌眼鏡的主屏系統及應用的使用體驗,以下就是全文摘要:谷歌眼鏡還沒有做好投放市場的準備,谷歌自己也清楚這一點,這就是為什麼它沒有發布「消費者版」,僅僅推出少量「探索者版」眼鏡的原因。
  • 谷歌詳解XLA:可在保留TensorFlow靈活性的同時提升效率
    TensorFlow 被設計成一個靈活和可擴展的系統,可用於定義任意數據流圖(data flow graph)並使用異構計算設備(如 CPU 和 GPU)以分布式方式有效地執行它們。但是靈活性通常與性能不能兼得。雖然 TensorFlow 旨在定義任何種類的數據流圖,但是由於 TensorFlow 分別優化每個 運算/指令(op),所以使所有圖都高效地執行是有挑戰性的。
  • II-VI推出L45雷射研磨系統 可用於超硬材料加工
    日前,II-VI公司在官網宣布推出一款L45雷射研磨系統。該系統可用於加工超硬材料,如聚晶金剛石(PCD)、聚晶金剛石複合片(PDC)、合成金剛石和反應粘結陶瓷。II-VI推出的新型L45雷射研磨系統正在為其工藝申請專利。當今的材料中金剛石含量持續增加,導致電導率下降,不利於採用傳統的電火花加工工藝(EDM),而新型L45雷射研磨系統是現有電火花加工方法的有效替代品。
  • 使用GPU.js改善JavaScript性能
    https://gpu.rocks你是否曾經嘗試過運行複雜的計算,卻發現它需要花費很長時間,並且拖慢了你的進程?有很多方法可以解決這個問題,例如使用web worker或後臺線程。GPU.js是一個針對Web和Node.js構建的JavaScript加速庫,用於在圖形處理單元(GPGPU)上進行通用編程,它使你可以將複雜且耗時的計算移交給GPU而不是CPU,以實現更快的計算和操作。還有一個備用選項:在系統上沒有GPU的情況下,這些功能仍將在常規JavaScript引擎上運行。
  • 居然有免費的GPU可以跑深度學習代碼!
    Google Colab簡介Google Colaboratory是谷歌開放的一款研究工具,主要用於機器學習的開發研究,這款工具現在可以免費使用,但是不是永久免費暫時還不確定,Google Colab最大的好處是給廣大開發AI者提供免費的GPU使用!
  • AI加持,計算機要擁有嗅覺了;GPU終於可用於Google Compute Engine...
    詳情:http://www.kejitianxia.com/237901.html論文英文詳情:https://arxiv.org/abs/1609.03126v3GPU終於可用於Google Compute
  • 微軟推出Latte項目 未來Win10或將可直接運行安卓應用
    首頁 > 見聞 > 關鍵詞 > 微軟最新資訊 > 正文 微軟推出Latte項目 未來Win10或將可直接運行安卓應用
  • 谷歌正式推出ARCore 1.0軟體開發包:小米/三星可嘗鮮
    蘋果CEO Tim Cook多次對增強現實(AR)毫不吝惜言辭地讚美,因而該技術登陸到智慧型手機上也僅僅是時間的問題,其實,除了蘋果之外,谷歌研發該技術也有一段時間裡。谷歌ARCore 1.0  谷歌即將會關閉Project Tango項目,而繼續接力公司AR技術的擔子就落在了其全新的AR框架ARCore上。
  • 十大可穿戴式計算機:導航鞋可顯示目的地遠近
    北京時間11月26日消息,可穿戴式計算機仍處於起步階段,但確有許多設計巧妙者已經問世,其中一些也許還會在不久的將來變成像智慧型手機一樣的消費產品。雖然有多種可穿戴計算產品已經上市,但它們還只是冰山一角。不斷有許多新的設計如雨後春筍般冒出來,把可穿戴式計算機的理念帶到一個新的水平。
  • 微軟推出第一個可用於ARM64設備的x64仿真預覽版Build 21277...
    原標題:微軟宣布支持 Arm 平臺上的 Win10 x64 仿真   12月11日消息 今天,微軟在開發者博客上表示已通過 Windows 內部開發頻道推出了第一個可用於 ARM64 設備的 x64 仿真的預覽版 Build 21277,它可以安裝在各種支持 Windows 10 的 ARM 電腦上。