吳恩達 史丹福大學計算機科學系和電子工程系副教授,人工智慧實驗室主任。吳恩達是人工智慧和機器學習領域國際上最權威的學者之一。吳恩達也是在線教育平臺Coursera的聯合創始人(with Daphne Koller)。
吳恩達最知名的是,所開發的人工神經網絡通過觀看一周YouTube視頻,自主學會識別哪些是關於貓的視頻。這個案例為人工智慧領域翻開嶄新一頁。吳恩達表示,未來將會在谷歌無人駕駛汽車上使用該項技術,來識別車前面的動物或者小孩,從而及時躲避。
本文轉自:大數據文摘
在吳恩達機器學習系列課程完結後不久,一位名叫Tess Ferrandez的小姐姐在推特上分享了一套自己的課程筆記,瞬間收穫了3k+贊和1k+轉發。
不同於滿屏公式代碼的黑白筆記,這套信息圖不僅知識點滿滿,且行文構圖都像插畫一樣顏值頗高。吳恩達自己也在推特上轉發稱讚了這一位有誠意的學習者,畢竟他一直倡導學習是一件簡單快樂的事情。
大數據文摘將這份有趣的學習筆記呈現在此,請各位查收。
點擊連結可查看下載這份筆記的完整版:
https://www.slideshare.net/TessFerrandez/notes-from-coursera-deep-learning-courses-by-andrew-ng
附錄:
2017年3月,吳恩達從百度離職後,關於他新動向的猜測和關注就一直沒有停歇。剛不久,吳恩達正式披露了自己的新動向。他的下一步,將通過deeplearning.ai這個網址,繼續提供一系列深度學習的Coursera課程。大家可能還不知道吧,吳恩達是在線教育平臺Coursera的聯合創始人,吳恩達在2008年發起了Stanford Engineering Everywhere(SEE)項目,這個項目把斯坦福的許多課程放到網上,供免費學習。NG也教了一些課程,如機器學習課程,包含了他錄製的視頻講座和斯坦福CS299課程的學生材料。吳恩達的理想是讓世界上每個人能夠接受高質量的、免費的教育。
吳恩達目前在做三個AI新項目,第一個AI項目就是Deeplearning.ai。這是個致力於傳播AI知識的項目,正準備在Coursera上推出新的深度學習系列課程。這些課程能幫助你掌握深度學習、有效地運用它,並開啟AI領域的職業生涯。
為什麼要做在線課程呢?吳恩達表示:「對深度學習的需求大大超過了供應」,吳恩達表示,「(深度學習)集中在幾個實驗室、幾個領先的大學,很多知識都在Arxiv上」。
Coursera的全新深度學習專項認證,將包括五個課程。這些課程,將由吳恩達和斯坦福研究生KianKatanforoosh以及YounesMourr合作教授。課程內容包括神經網絡、反向傳播、卷積網絡、循環網絡以及其他深度學習相關的核心內容。
這5門系列課程構成了Coursera的深度學習專項課程,任何有基礎機器學習知識的人都可以上。
通過該平臺,學習者將學到深度學習基礎,懂得如何搭建神經網絡,學會如何領導一個成功的機器學習項目。將會學到卷積神經網絡、RNN、LSTM、Adam、Dropout、BatchNorm、Xavier/He initialization等等。學習者還將會在健康、自動駕駛、手語識別、音樂生成、自然語言處理等案例中學習,不僅掌握理論知識,還會看到這種技術如何在產業中應用。你將用Python和TensorFlow進行練習,實踐你的想法。你會聽到很多深度學習領域頂級領導者的分享,他們會講述自己的故事,向你提供職業建議。
以下是本次吳恩達即將開啟的在線深度學習專項課程的詳細介紹(選自AI科技大本營)。
課程詳細介紹
目標:
通過這5門課程,你將學會深度學習的基礎,弄懂如何搭建神經網絡,並掌握如何組織起一個成功的機器學習項目。
具體技能:
· 你將會學到卷積網絡、RNN、LSTM、Adam、Dropout、BatchNorm、Xavier/He initialization等;
· 了解並學習深度學習在醫療、自動駕駛、手語識別、音樂生成、自然語言處理等領域的真實案例;通過這一「機器學習飛行模擬器」的學習,特別是通過其中具體案例的研究,你將獲得接近於真實的「行業經驗」,並為面向工業界的機器學習研究做好準備;
· 學到Python和TensorFlow,並親手打造最先進的深度學習模型。
此外,每一門課,你都將能聽到來自深度學習頂級專家們的分享,他們會講講自己的深度學習故事,並為你的深度學習之路提一些建議。
目前,deeplearning.ai會同英偉達的深度學習研究院(Deep Learning Institute)在一些專門的深度學習高等話題上合作,為學生的編程作業提供GPU運算。你將有機會在最先進的工業級環境中打造自己的深度學習項目。
▌第一課 神經網絡與深度學習
· 即將開課的班次:8月15日—9月18日
· 課程學習時間:4周,每周3-6小時
· 字幕:英語
· 課程概述:如果你想學習最前言的AI知識,本門課程剛好能幫到你。深度學習工程師正受到高度熱捧,掌握深度學習相關知識會為您帶來無數的全新機遇。深度學習還是一種全新的「超能力」,能讓你做出幾年前不可能實現的人工智慧系統。
在本課程中,您將學到深度學習的基礎知識。學習完本課程,您將:
· 理解推動深度學習的主要技術趨勢
· 能夠構建、訓練和應用全連接深度神經網絡
· 知道如何實現高效(矢量化)神經網絡
· 了解神經網絡架構中的關鍵參數
本課程還會帶你了解深度學習事實上的運作機制,而非僅提供粗略或表層的描述。完成本課程後,你將能把深度學習應用到你自身的領域之中。如果您想尋求一份與AI相關的工作,學完本課程,您將能夠回答一些基本的面試問題。
這是深度學習專項課程的的第一門課。
§ 第1周:深度學習介紹
這部分主要介紹推動深度學習興起的主要趨勢,了解當下深度學習應用的具體方面,以及如何來應用它。
§ 第2周:神經網絡基礎
這一部分我們將學習如何用神經網絡來解決機器學習問題,學會如何用矢量化來加速模型。
·
§ 第3周:淺層神經網絡
這一部分我們將學習使用前向傳播和反向傳播構建一個帶有隱含層的神經網絡。
· 第 4 周:深度神經網絡
在這部分,你將了解深度學習中的關鍵計算,使用它們來構建和訓練深度神經網絡,並將其應用於計算機視覺。
▌第二課 改進深層神經網絡:超參數調優、正則化與最優化
· 即將開課的班次:8月15日—9月11日
· 課程學習時間:3周,每周3-6小時
· 字幕:英語
· 課程概述:本課程教你的將是如何把深度學習用得更好的「魔法」。深度學習的內部過程不該是個黑箱,您應當理解性能表現背後的因素,進而更為系統地各種優秀結果。您還將學會TensorFlow。
通過3周的學習,您將:
· 理解打造深度學習應用的行業最佳實踐;
· 能夠有效地利用普通神經網絡的「技巧」,包括初始化、L2和退出正則化、Batch歸一化、梯度校驗;
· 能夠實現和運用各種優化算法,小型Batch梯度下降,Momentum,RMSprop和Adam,並能檢驗它們的收斂性;
· 理解深度學習時代設置 訓練/開發/測試 數據集並分析 誤差/方差 的全新最佳實踐;
· 能夠在TensorFlow中實現神經網絡。
這是深度學習專項課程的第二門課。
§ 第1周:深度學習實踐
§ 第2周:算法優化
§ 第3周:超參數調優、Batch歸一化與編程框架
▌第三課 構建機器學習項目
· 即將開課的班次:8月15日—9月4日
· 課程學習時間:2周,每周3-4小時
· 字幕:英語
· 課程概述:您將學會如何打造出一個成功的機器學習項目。如果您渴望成為AI領域的技術領導者,並想弄懂如何團隊工作設定方向,本課程將為指明道路。
本門課程的多數內容來自我開發和推廣深度學習產品的經驗,其他任何地方均從未有教授。本課程還設有兩個用於練習機器學習項目領導決策的「飛行模擬器」,能夠提供給你只有經歷數年機器學習工作實踐才能獲取到的「行業經驗」。
通過2周的學習,您將:
· 弄懂如何診斷機器學習系統中的錯誤
· 有能力篩選出最有希望降低錯誤的工作方向
· 理解複雜的機器學習設置,如 訓練/測試 數據集的不配備,並能對比 和/或 實現超越人類水平的表現
· 弄懂如何應用端對端學習、遷移學習和多任務學習
我遇到過僅僅因為不理解一些機器學習原則而而浪費數月甚至數年時間的團隊,所以我要用一門課程來教授這裡的原則,希望這個為期兩周的課程能幫您省下這些時間。
本課程是一門獨立課程,只要具備基本的機器學習知識就可以參加。這是深度學習專項課程的第三門課。
§ 第1周:深度學習策略 (1)
§ 第2周:深度學習策略 (2)
▌第四課 卷積神經網絡
· 課程內容及時間安排將在數周內公布
· 字幕:英語
· 課程概述:本課程將教您如何構建卷積神經網絡並用它來處理圖像數據。在深度學習的驅動下,計算機視覺近兩年來取得了巨大的進步,從安全的自動駕駛到精確的面部識別再到醫學放射影像的自動讀取,出現了無數激動人心的應用研究成果。
您將:
· 理解如何構建卷積神經網絡,包括它最新的變體,如殘差網絡。
· 弄懂得如何用卷積神經網絡來完成視覺檢測和識別任務。
· 弄懂如何用風格轉換器創造藝術圖像。
· 能用這些算法來處理各種各樣的圖像、視頻,以及其他2D或3D數據。
這是深度學習專項課程的第四門課。
▌第五課 序列模型
· 課程內容及時間安排將在數周內公布
· 字幕:英語
· 課程概述:本課程將教會你為自然語言、音頻和其他序列數據構建模型。在深度學習的驅動下,序列算法近兩年來取得了巨大的進步,語音識別、音樂合成、聊天機器人、機器翻譯、自然語言理解等領域湧現出無數激動人心的成果。
您將:
· 弄懂如何構建並訓練遞歸神經網絡(RNN)及其常用的變體,如GRU、LSTM。
· 能用序列模型解決自然語言問題,包括文本合成問題。
· 能用序列模型實現音頻應用,包括語音識別和音樂合成。
這是深度學習專項課程的第五門課,也是最後一門。
課程相關信息
國外媒體稱吳恩達此次的在線深度學習項目「Deep Learning Specialization」是迄今為止,最全面、系統和容易獲取的深度學習在線課程。登陸Coursera可以觀看。
日前,5門課程中,前3門課已經就緒,由吳恩達親自出鏡授課。
課程將按月費收費,每月49美元。不過,根據Coursera的規則,用戶申請的在線課程,前7天裡可以無限量訪問。
目前,7天的免費試用已經開啟,感興趣的小朋友可以火速前往課程圍觀。
附:Udacity 深度學習納米學位課程大綱
部分 1:神經網絡
神經網絡是深度學習的基石。在這部分課程中,你將學習神經網絡的基本原理,並在實戰項目中從頭開始構建一個神經網絡。
部分 2:卷積神經網網絡
卷積神經網絡是解決視覺問題的標準答案。 在無人駕駛車,面部識別,醫學影像等領域,都有它的應用。在這部分課程中,你將了解卷積神經網絡的基本原理,並在實戰項目中用它來解決圖片分類問題。
部分 3:循環神經網絡
循環神經網絡對預測音樂和文本等有序數據非常有用。利用這個神經網絡,你可以生成新音樂,翻譯文本,或通過腦電圖預測癲癇發作。在這部分課程中,我們將教你如何搭建和訓練一個循環神經網絡。
部分 4:生成對抗網絡
生成對抗網絡是無監督學習的一種。在生成對抗網絡中,兩個神經網絡相互競爭,通常可用於生成圖像數據。在這部分課程中,你將學習如何搭建自己的生成對抗網絡,並讓兩個神經網絡互相競爭。
相關連結
https://www.coursera.org/specializations/deep-learning
https://medium.com/@andrewng/deeplearning-ai-announcing-new-deep-learning-courses-on-coursera-43af0a368116