GPU是深度學習系統所必需的嗎?

2020-12-12 讀芯術

全文共2209字,預計學習時長6分鐘

圖源:unsplash

我對遊戲近乎痴迷。從小到大,我對顯卡的唯一要求就是為了玩遊戲。直到開始接觸人工智慧和數據科學領域,尤其是深度學習之後,我才意識到了顯卡的真正潛力。就像夢想照進了現實——只用一片簡單的顯卡,就能同時滿足學習和研究的需求,真是妙啊。(註:GPU和顯卡是一個意思,在本文中互換使用。)

經過優化的GPU可用於訓練人工智慧和深度學習系統,因為它們可同時處理多個計算。這些系統有大量的內核,可以更好地計算大量並行進程。

本文將解釋GPU和CUDA的概念,然後進一步探索圖形處理器(GPU)的優點,以及在預算有限的情況下購買它的最佳時機。最後,本文將討論你的其他選擇。閒話少說,先從理解概念開始。

什麼是GPU?

GPU即圖形處理器,它是一種特殊的電子元件,用於快速操作並改變內存,以提高在幀緩衝區內創建圖像的速度,從而輸出於顯示設備中。GPU是現代計算的一個關鍵部分,它的計算能力和高性能網絡正在改變計算科學和人工智慧。

英偉達(NVIDIA)公司提供了一種名為統一計算設備架構(CUDA)的東西,它對許多深度學習應用至關重要。

CUDA是由英偉達公司開發的並行計算平臺和應用程式編程接口模型。它允許軟體開發者和軟體工程師們使用支持CUDA的圖形處理器(GPU)進行通用處理,也就是一種名為GPGPU的方法。CUDA的內核在人工智慧領域有很強的優勢,且在該領域極具革命性,下文中將詳細說明。

GPU的優點

圖源:unsplash

顯卡種類不同,CUDA內核的數量也不同。但可以肯定地說,大多數顯卡至少有1000個CUDA內核。當你使用諸如TensorFlow或Pytorch等深度學習框架時,可以使用這些CUDA內核計算深度學習算法,計算速度同相同性能的CPU相比要快得多。

CPU只能同時進行少量操作,而GPU可同時處理幾千個同類操作。假設一項需要CPU處理2到3小時的任務,在高質量GPU的協助下可能只需10分鐘即可完成。

GPU是計算機視覺和超級計算的動態資源,其深度學習和神經網絡可以執行複雜的任務,有時甚至超出人類的想像。

同樣,GPU還可用於其他方面。例如,GPU可用於嵌入式系統、智慧型手機、個人電腦、工作站和遊戲機中。

其他任務也可充分利用這些顯卡,比如可用於遊戲,尤其是3A級遊戲中(3A代指由中型或大型遊戲公司創作、發布的電子遊戲,這些遊戲通常有更高的開發和營銷預算),或用於其他需要GPU的圖形軟體,如動畫和設計方面。

GPU也廣泛應用於機器人領域,它能讓高科技機器人感知環境,並將人工智慧綜合運用其中。汽車產業也同樣十分需要這些設備,它們可以應用於基於深度學習的自動駕駛汽車中。

最後,GPU也廣泛應用於醫療保健和生命科學領域,它們可以利用數據進行理想的圖像分割任務,或是進行其他醫學用途。

還有一點很關鍵,顯卡挺貴的!尤其當你預算有限時,可能很難決定該不該買顯卡。那麼,如何得出一個明智的結論呢?我的個人建議是:確保你在數據科學領域已經有足夠深入的了解,已經理解了機器學習的概念,並且對深度學習有基礎的理論知識之後,再做決定。

假如你真的確信自己對深度學習感興趣,並且希望進一步研究這個有趣的領域,那麼你可以毫不猶豫地為自己買一個。假如你想知道有沒有替代選項,或者有沒有在一頭扎進這個領域前用來試水的免費工具,那麼你很幸運,因為有許多可用的資源。

替代選項

圖源:unsplash

如果你只是想測試深度學習系統,或者你已經確定不需要顯卡,那麼有哪些能用於深度學習的備選項呢?

對初學者來說,假如你想在個人電腦上辦公,且已經有了中等CPU能夠進行平均計算,你可以選擇安裝TensorFlow的CPU版本。安裝可以通過簡單的pip命令完成,如下所示:

pip install tensorflow

對於簡單的深度學習計算,例如使用MNIST資料庫進行工作,用CPU 和 GPU差不多。CPU版本正好適合初學者級別的深度學習項目。

但是假如你想擁有實踐經驗,親身體驗使用GPU的感受,你可以使用完全免費的Google Colaboratory,簡稱為Google Colab。這是一款Google Research推出的產品,能讓任何人通過瀏覽器編寫或執行任意的python代碼,尤其適合用於機器學習、數據分析和教育領域。

其他的替代品還有創建AWS雲實例或使用IBM Watson Studio。這些都是從我個人經驗裡總結出的替代方法。有了這些選擇,你能輕鬆地親自探索深度學習,並獲得該領域的基本知識。

回到最開始的問題:如果你是個初學者,剛開始上路,那麼你肯定不需要購買;然而,如果你更認真,且已經獲得了敏銳的理解和知識,並想進一步深入學習,那麼強烈推薦購買!

留言點讚關注

我們一起分享AI學習與發展的乾貨

如轉載,請後臺留言,遵守轉載規範

相關焦點

  • 基於RTX2060構建TensorFlow-gpu(keras)學習平臺
    一、conda命令1. onda env list 或 conda info -e 查看當前存在哪些虛擬環境2. conda create --name tf36gpu python=3.6 anaconda3. conda remove -n your_env_name(虛擬環境名稱) --all 刪除虛擬環境4.
  • 解密百度鳳巢廣告系統AI技術:用GPU訓練千億參數深度學習模型
    2、2013年,百度開始使用分布式超大規模深度學習模型,參數達到了千億級。3、2014年以來,百度開始開展大規模向量近鄰檢索(ANN)技術和最大內積檢索(MIPS)技術研究並用於商用。(註:百度科學家因MIPS工作獲得AI頂級學術會議NIPS2014最佳論文獎。)百度廣告AI團隊開始廣泛使用ANN與MIPS技術來提高廣告召回質量。
  • 兩個提高深度學習訓練效率的絕技
    不同於hadoop和spark等分布式數據處理框架,深度學習訓練因為要涉及參數的前項傳播和反向傳播,有兩種並行方式: 模型並行( model parallelism ):分布式系統中的不同機器(GPU/CPU等)負責網絡模型的不同部分,通常是神經網絡模型的不同網絡層被分配到不同的機器,或者同一層內部的不同參數被分配到不同機器。一般是超大的模型,一張顯卡放不下的情況,如NLP的模型。
  • Yoshua Bengio:深度學習如何實現系統進化?
    系統1是直覺系統,主要負責快速、無意識、非語言的認知,這是目前深度學習主要做的事情;系統2是邏輯分析系統,是有意識的、帶邏輯、規劃、推理以及可以語言表達的系統,這是未來深度學習需要著重考慮的。對於系統2來說,基本的要素包括注意力和意識,意識先驗可以使用稀疏因子圖模型來實現,這是一個思路,實現了因果關係。
  • 深度學習與PaddlePaddle的應用-個性化推薦
    作者:沈克強 來源:人工智慧學習圈I 研究背景推薦系統(Recommender System)是向用戶建議有用物品的軟體工具和技術,它運用數據分析、數據挖掘等技術,實現對用戶瀏覽信息或商品進行智能推薦,是機器學習,尤其是深度學習算法的重要應用場景。
  • 使用深度學習構建先進推薦系統:近期33篇重要研究概述
    近一段時間,深度學習的發展在語音識別、圖像處理和自然語言處理領域取得了很多成果。此外,深度學習在推薦系統和信息檢索領域裡也得到應用。本文介紹了深度學習技術在推薦系統中的近期進展。全文從三部分來介紹:協作系統(Collaborative system)、基於內容的系統和混合系統。
  • 推薦算法系統/人臉識別/深度學習對話機器人高級實戰課
    包含了推薦算法系統實戰、深度學習人臉識別實戰、深度學習對話機器人實戰等高級前沿的精品課程,下面分別介紹下各個實戰項目:1、推薦算法系統實戰首先推薦系統不等於推薦算法,更不等於協同過濾。下面我們就從推薦系統的整體架構以及各個子系統的實現給大家深度解密來自一線大型網際網路公司重量級的實戰產品項目!!!
  • 如何使用深度學習模型構建推薦系統?(具體案例分析)
    全文共3095字,預計學習時長9分鐘來源:Pexels本文將解釋如何整合深度學習模型,構建服裝推薦系統。我們想要建立一個服裝推薦系統,可以使用四種深度學習模型來獲取用戶服裝使用的重要特徵。計入考慮的產品特徵是用戶所穿的衣服類型。因此,我們需要一張用戶的照片,對所有特徵進行預測,推薦相應的服裝。將從用戶的全身圖像中獲得服裝特徵。使用名為AlphaPose的人體姿態估計系統來確定用戶是否完整。AlphaPose檢測一個人的19個點。如果檢測到至少17個點,就認定是完整人形。
  • 推薦系統之YouTube深度學習經典論文解讀
    系統架構推薦系統的架構基本都是大同小異,無非是召回和排序兩大部分,YouTube也不例外。第一層Candidate Generation就是召回模塊,完成候選視頻快速篩選,候選視頻的量級從百萬到百。第二層Ranking指完成召回後的幾百量級候選視頻的精排序。
  • 強化學習/機器學習/深度學習三者有何區別?
    打開APP 強化學習/機器學習/深度學習三者有何區別? 2013年,DeepMind發明了DQN算法,成功將深度學習和強化學習結合起來,開啟了深度強化學習的新紀元。此後數年,強化學習的成果日新月異,很多非常困難的問題都被深度強化學習算法解決。 2016年,谷歌阿爾法圍棋以4:1戰勝圍棋世界冠軍、職業九段棋手李世石,不僅讓深度學習為人們所知,而且掀起了人工智慧的「大眾熱」,大家由此更加關注強化學習這一技術要點。
  • Facebook:易於解釋的神經元可能阻礙深度神經網絡的學習
    編輯:張倩、杜偉易於解釋的神經元對於提升神經網絡的性能來說是必要的嗎?Facebook 的研究者給出了出人意料的答案。AI 模型能「理解」什麼?為什麼能理解這些東西?回答這些問題對於復現和改進 AI 系統至關重要。但遺憾的是,計算機科學家在解釋深度神經網絡(DNN)方面的能力遠遠落後於我們利用這些網絡獲取有用成果的能力。
  • 為深度學習系統建立起類似人腦的記憶結構,有多大挑戰?
    在計算機科學中,沒有一門學科比深度學習更能從人類的記憶系統中受益。自早期以來,在深度學習領域,人們就一直致力於對模擬人類記憶的一些關鍵特徵系統進行建模。然而,想要為機器系統建立起類人的記憶結構,並非易事。
  • 打響新年第一炮,Gary Marcus提出對深度學習的系統性批判
    ——Franois Chollet, Google, Keras 作者,2017.12.18「科學是踩著葬禮前行的」,未來由極其質疑我所說的一切的那批學生所決定。——Geoffrey Hinton,深度學習教父,谷歌大腦負責人,2017.9.151. 深度學習撞牆了?
  • 自監督學習,如何從數據困境中拯救深度學習?
    ImageNet 無疑是現在深度學習復興的基石之一。 ImageNet 起源於 2012 年 Krizhevsky 等人所著的論文《Imagenet Classification with Deep Convolutional Neural Networks》。在這篇文章中, 卷積網絡模型首次大幅度超越了當時最先進的模型。
  • 機器學習平臺在Kubernetes上的實踐
    通過分析算法同事以往的工作方式,機器學習平臺(GoblinLab)決定嘗試基於Kubernetes提供在線的開發調試容器環境以及任務的容器化調度兩種方案,其分別針對任務開發和任務調度兩種場景。任務開發為最大化的減少算法同事由物理機遷移到容器化環境的學習成本,GoblinLab系統中基本將Kubernetes的容器當做雲主機使用。
  • 2020年深度學習發展大盤點及對2021年深度學習的未來展望|極客雲算
    深度學習框架作為AI底層工具,對個人而言是進入深度學習世界的一把鑰匙,掌握深度學習框架並不等於理解了深度學習,要在AI開發中有所作為,關鍵還是要真正理解框架背後的技術、實踐和生態。隨著近年來的人工智慧發展,2020年深度學習依然是發展最快的領域之一,直奔未來工作。其發展是多方面的,而且是多方位的。
  • 使用Amazon SageMaker 構建基於 gluon 的推薦系統
    為了解決這些問題,個性化推薦系統應運而生。個性化推薦系統是建立在海量數據挖掘基礎上的一種高級商務智能平臺,以幫助電子商務網站為其顧客購物提供完全個性化的決策支持和信息服務。區別於傳統的規則推薦,個性化推薦算法通常使用機器學習甚至深度學習算法,對於用戶信息與其行為信息充分挖掘,進而進行有效的推薦。
  • 賈揚清:希望Caffe成為深度學習領域的Hadoop
    在基於Caffe的深度學習方面有什麼通用的優化技巧可以分享?賈揚清:Caffe最開始的確就是為了在我們平時科研上使用所寫的,所以在伯克利我們所有涉及到Deep Learning的工作也都會基於Caffe來進行。
  • 如何使用寶可夢Home,這是培訓師所必需的?
    《劍/盾》開始進入坑了嗎?或者老玩家一直被所有年齡段的人追求?在經歷了這段經歷後,小編整理了一篇關於寶可夢Home的FAQ,希望能幫助那些正在或使用寶可夢Home的人。Q: 寶可夢Home有什麼用?A: 寶可夢Home是一個遷移工具,幫助培訓師在版本之間轉移寶可夢,並交換寶可夢。
  • 廣告行業中那些趣事系列9:一網打盡Youtube深度學習推薦系統
    因為Youtube深度學習推薦系統是基於Embedding做的,所以第二部分講了下Embedding從出現到大火的經過。最後一網打盡Youtube深度學習推薦系統。該系統主要分成兩段式,第一段是生成候選項模型,主要作用是將用戶可能感興趣的視頻資源從百萬級別初篩到百級別;第二段是精排模型,主要作用是將用戶可能感興趣的視頻從百級別精挑到幾十級別,然後按照興趣度得分進行排序形成用戶觀看列表。