深度學習框架竟然這麼簡單?

2021-01-08 電子發燒友
打開APP
深度學習框架竟然這麼簡單？

開課吧 發表於 2021-01-07 16:04:33

新一代人工智慧技術的發展，離不開晶片與深度學習框架兩大基礎，隨著中國科研創新能力的提升，技術領域取得大量突破。

當然，這也是一種技術封鎖的倒逼，今年出現的華為晶片供應鏈被全面封鎖，和工科神器MATLAB被禁事件，這兩件事情加起來，迫使我國要從基礎架構平臺到應用系統等，全方位建設自主知識的優秀產品。

01

發 展

而深度學習作為人工智慧的核心技術，近年來無論是學術、還是工業領域，均發揮著愈加重要的作用。

過去十年，深度學習領域湧現了大量算法和應用。在這些深度學習算法和應用湧現的背後，是各種各樣的深度學習工具和框架。它們是機器學習革命的腳手架：TensorFlow 和 PyTorch 等深度學習框架的廣泛使用，使得許多 ML 從業者能夠使用適合的領域特定的程式語言和豐富的構建模塊更容易地組裝模型。

回顧深度學習框架的演變，我們可以清楚地看到深度學習框架和深度學習算法之間的緊密耦合關係。這種相互依賴的良性循環推動了深度學習框架和工具的快速發展。

02

趨 勢

我們正在處於一場人工智慧革命的黎明，人工智慧領域的新研究和應用框架，正在以前所未有的速度湧現。

八年前的AlexNet 網絡僅僅包含6000 萬個參數，最新的 GPT-3 網絡包含 1750 億參數，網絡規模在 8 年內增加了 3000 倍。但是人類的大腦包含100萬億個突觸，也就相當於參數。所以，神經網絡要達到人類的智能水平還有很大的差距。

 

這種難以接受的網絡規模，對現有的模型訓練和推理的硬體、軟體計算效率都提出了很大的挑戰。未來的深度學習框架很可能是算法、高性能計算、硬體加速器和分布式系統的跨學科成果。

03

挑 戰

然而，對於深度學習相關的初學者，還是對於已經從事相關工作的算法工程師來說，深度學習理論太難學，開發過程太複雜，又將許多人拒之於深度學習的門外。

 

而大廠等一線企業在這方面的需求也是迫在眉睫，阿里雲也正式開深，是業界首個面向NLP場景的深度遷移學習框架。人才渴求之大，人才缺口一場嚴峻。

04

機 遇

那麼，作為我們學習深度學習的時候，究竟是學哪個框架呢？是學PyTorch、還是學Tensorflow、再或者是學Keras呢？其實，對於這樣的問題，基於現在的形勢下，你就不要把著眼點放在這些工具的使用上了，重要的是要知道它的原理。

來源：開課吧

 

 

原文標題：聽起來難以置信，深度學習框架竟然這麼簡單！

文章出處：【微信公眾號：FPGA開源工作室】歡迎添加關注！文章轉載請註明出處。

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 深度學習編程框架對比
    1|前言深度學習編程框架提供了用於深度學習設計、訓練，驗證等功能的基本模塊使用架提供的高級API，用戶可以簡單方便地實現各種深度學習以及機器算法目前，市面上有很多流行的開源框架，每個框架都有自己的用戶群和優缺點。幾乎所有的框架都支持CPU和GPU設備，使用了常見的基於設備的加速庫，如BLAS， cuBLAS、NCCL等。
  • Keras vs PyTorch:誰是第一深度學習框架?
    是要將深度學習應用到業務中，還是用深度學習開展副業，抑或只是為了得到一些適合市場需求的技能?無論目標是什麼，選擇合適的深度學習框架是達到目標的第一步。　　我們強烈建議你選擇 Keras 或 PyTorch。它們都是非常強大的工具，且不管是學習還是實驗都很有樂趣。我們是從教師和學生的角度考慮的。本文作者 Piotr 在企業舉辦過 Keras 和 PyTorch 研討會，Rafa?
  • 深度| 對比深度學習十大框架:TensorFlow最流行但並不是最好
    選自Medium機器之心編譯參與：吳攀、朱思穎、李亞洲2016 年已經過去，BEEVA Labs 數據分析師 Ricardo Guerrero Gomez-Ol 近日在 Medium 上發表了一篇文章，盤點了目前最流行的深度學習框架。為什麼要做這一個盤點呢？他寫道：「我常聽到人們談論深度學習——我該從哪裡開始呢？TensorFlow 是現在最流行的吧？
  • 天才黑客直播手寫深度學習框架
    最近，天才黑客 George Hotz 開源了一個小型深度學習框架 tinygrad，兼具 PyTorch 和 micrograd 的功能。在深度學習時代，谷歌、Facebook、百度等科技巨頭開源了多款框架來幫助開發者更輕鬆地學習、構建和訓練不同類型的神經網絡。而這些大公司也花費了很大的精力來維護 TensorFlow、PyTorch 這樣龐大的深度學習框架。
  • 一代深度學習框架研究
    ，簡述深度學習發展歷程以及目前的挑戰，通過介紹新一代深度學習框架的特點，分析總體框架，闡述自動並行、自動微分、自動調優等技術優勢以及協同昇騰處理器的性能優勢，希望可以為深度學習技術研究人員提供參考。深度學習的研究和應用在近幾十年得到了爆炸式的發展，並且已經在圖像識別、語音識別、機器翻譯以及遊戲等方面取得了巨大的成功。為了獲得更好的性能，深度學習的網絡結構日益複雜，網絡深度和數據集也日益增大，這給深度學習的計算框架帶來了巨大的挑戰。
  • 2020年深度學習框架對比速讀
    況且在工業界TensorFlow依然是深度學習框架中無可爭議的標杆，加之谷歌的支持，投入時間學習算是一項相當不錯的選擇。嚴格來說，與其說Keras是一個深度學習框架，不如說它是一個由Python編寫的開源神經網絡庫，一個構建於第三方框架之上的深度學習接口，一種高級API。Keras本是為支持快速實驗而生，可以基於以TensorFlow為代表的多種深度學習框架快速建模，將你的想法迅速輸出為實驗結果，其設計充分體現了「用戶友好」這一特性。
  • 深度學習框架 PyTorch 為何值得學
    大家知道，深度學習的發展和推進，在某種程度上也是一場框架的爭奪戰，其中 Google 發布的 TensorFlow 和 Facebook 主力支持的 PyTorch 是最耀眼的兩顆明星。簡單介紹2018 年 10 月，PyTorch V 1.0.0 發布，融合 PyTorch 自身靈活性、研究優勢與 Caffe2 的後端與應用能力、ONNX 的框架轉換能力於一體；同時 FastAI V1.0 發布，可用單一 API 玩轉常見深度學習應用，大大降低了深度學習的學習門檻。
  • 深度學習:盤點全球的深度學習框架「Tensorflow、Pytorch」勝出
    深度學習在人工智慧技中的表現尤為的突出，想要學習深度學習，首先需要掌握一個有效的深度學習框架，這篇文章將盤點目前全球流行的深度學習框架，從框架的流行程度、應用場景出發，來提高大家對深度學習框架的認識。年11月發布，是一個相對比較成熟完善的深度學習框架，Tensorflow採用符號式編程。
  • 對比深度學習十大框架:TensorFlow 並非最好?
    2016 年已經過去，BEEVA Labs 數據分析師 Ricardo Guerrero Gomez-Ol 近日在 Medium 上發表了一篇文章，盤點了目前最流行的深度學習框架。為什麼要做這一個盤點呢?他寫道：「我常聽到人們談論深度學習——我該從哪裡開始呢?TensorFlow 是現在最流行的吧?我聽說 Caffe 很常用，但會不會太難了?
  • TensorFlow VS PyTorch的深度學習框架之爭
    前言對於廣大深度學習行業從業者而言，熟練掌握一種或多種深度學習框架，是日常煉丹的必備技能之一。深度學習框架市場經歷了早期的混亂之後，逐漸形成了以 TensorFlow 和 PyTorch 兩家獨大的市場格局。
  • 自主創新的崛起：國產深度學習開源框架的競合
    實踐者們當然清楚地知道深度學習框架的重要性：無數的 AI應用程式，都是建立在深度學習框架之上的，人工智慧時代，人們曾說深度學習框架是最重要的基礎設施，一點也不過分。同樣正因為如此，對於國外主流深度學習框架斷供的擔憂，一直籠罩在國內行業的上空，現在看來，這種擔憂可以減少很多。國內開放源碼深度學習框架的興起，給了中國工業更多的選擇。
  • 深度學習框架比較,我該選擇哪一個?
    使用深度學習框架完成模型構建有如下兩個優勢： 節省編寫大量底層代碼的精力：屏蔽底層實現，用戶只需關注模型的邏輯結構。同時，深度學習工具簡化了計算，降低了深度學習入門門檻。
  • 深度學習框架比較，我該選擇哪一個？
    面對繁多的應用場景，深度學習框架有助於建模者節省大量而繁瑣的外圍工作，更聚焦業務場景和模型設計本身。通過Caffe Model Zoo框架可訪問用於解決深度學習問題的預訓練網絡、模型和權重。這些模型可完成簡單的遞歸、大規模視覺分類、用於圖像相似性的SiameSE網絡、語音和機器人應用等。
  • 一種深度學習框架的介紹及總結
    目前TensorFlow、Keras等深度學習框架被廣泛使用，所以，我今天要介紹另一個框架 Deeplearning4J。它是一個基於純Java的深度學習框架，同時也是Java的第一大深度學習框架，目前在Github上已經有9k多顆星了。它運行在純Java環境，能夠很好的應用在生產環境中，且能夠較好的兼容TensorFlow、Keras等主流框架訓練的模型。
  • 11種深度學習框架影響力對比
    編者按：Jeff Hale根據網上招聘、調研報告、網絡搜索、論文、教程、GitHub等數據，評估了11種深度學習框架的影響力。 現在數據科學領域最熱門的方向仍舊是深度學習。相應地，深度學習框架也處於飛速變革之中。現在最流行的框架，除Theano外，5年前都不存在。
  • 阿里開源的深度學習框架XDL,究竟如何理解?
    前幾天「機器之心」透露了一則消息，阿里巴巴把自己用來作為大數據營銷平臺廣告業務的技術框架，即深度學習框架X-Deep Learning（以下簡稱「XDL」）開源了。阿里還聲稱，這是「業內首個面向高維稀疏數據場景的深度學習開源框架」。
  • 深度學習——你需要了解的八大開源框架
    深度學習八大開源框架導讀：深度學習（Deep Learning）是機器學習中一種基於對數據進行表徵學習的方法，深度學習的好處是用非監督式或半監督式的特徵學習、分層特徵提取高效算法來替代手工獲取特徵（feature）。
  • 詳解國產原創深度學習框架,曠視 MegEgie
    總體來說曠視Brain++由深度學習框架MegEngine、深度學習雲計算平臺MegCompute、數據管理平臺MegData三部分組成。其中，Brain++ 在算法開發方面的強大能力很大程度上源於其使用的深度學習框架 MegEngine，目前曠視Brain++已在內部全員推廣使用，曠視也無需依賴TensorFlow、PyTorch等第三方深度學習框架。
  • 分享：深度學習框架比較，我該選擇哪一個？
    使用深度學習框架完成模型構建有如下兩個優勢：節省編寫大量底層代碼的精力：屏蔽底層實現，用戶只需關注模型的邏輯結構。同時，深度學習工具簡化了計算，降低了深度學習入門門檻。目前，全世界最為流行的深度學習框架有PaddlePaddle、TensorFlow、Caffe、Theano、MXNet、Torch和PyTorch等。下面我們就來介紹一下目前主流的、以及一些剛開源但表現非常優秀的深度學習框架的各自特點，希望能夠幫助大家在學習工作時作出合適的選擇。
  • 深度學習-Pytorch框架學習之模型訓練和測試
    前言前面四篇文章，介紹了模型搭建、數據準備及pytorch中常用的計算方法等，有了上述基礎後就可以訓練模型了，下面這篇文章會簡單介紹下在pytorch框架下如何訓練深度學習模型，以及一些常用代碼。模型訓練