帶你少走彎路:五篇文章學完吳恩達機器學習

2021-02-13 機器學習初學者

本文是吳恩達老師的機器學習課程[1]的筆記和代碼復現部分,這門課是經典,沒有之一。但是有個問題,就是內容較多,有些內容確實有點過時

如何在最短時間學完這門課程?作為課程的主要翻譯者筆記作者,我推薦把精華部分進行學習,這樣進度會快一點。

作者:黃海廣[2]

時間不多的朋友可以按照以下篇文章的筆記和作業代碼(原課程作業是 OCTAVE的,這裡是復現 Python 代碼)進行學習,快速入門機器學習,避免走彎路。可以收藏下這篇文章,以後用碎片時間在手機上學習機器學習。

第一部分:回歸

第二部分:邏輯回歸

第三部分:支持向量機

第四部分:無監督學習

第五部分:異常檢測和推薦系統

2014年12月開始到mooc網上學堂學習機器學習課程,該課程內容非常不錯,我整理和翻譯了大部分視頻。(該視頻字幕已經無償送給網易雲課堂:吳恩達機器學習課程,由他們進行潤色,致謝裡有我的名字。這個課程有好多個翻譯版本,我的可能是最差的一個版本,但可能下載最多。)

字幕和視頻有需要的同學到我的github[3]下載。

在學習機器學習課程時,我把筆記放到了github[3]上提供下載,被下載了幾十萬次,獲得13400+star。原課程的作業代碼是octave的,現在幾乎用不到了,我用python3.6復現了課程代碼,並且公開了筆記的word和markdown版本。有個問題就是,內容比較多,到底哪幾部分需要認真讀呢?作為筆記作者,我覺得下面這個目錄標紅部分應該要認真讀下,這部分不過時,我已經整合到五篇文章裡了(第一部分:回歸,第二部分:邏輯回歸,第三部分:支持向量機,第四部分:無監督學習,第五部分:異常檢測和推薦系統),這五篇文章,還有算法的python復現,可以從代碼裡深刻理解算法的精華。

希望大家少走彎路,用手機收藏下這篇文章,用碎片時間學完「吳恩達機器學習課」。

原課程目錄

第一周

一、 引言(Introduction)

1.1 歡迎

1.2 機器學習是什麼?

1.3 監督學習

1.4 無監督學習

二、單變量線性回歸(Linear Regression with One Variable)

2.1 模型表示

2.2 代價函數

2.3 代價函數的直觀理解I

2.4 代價函數的直觀理解II

2.5 梯度下降

2.6 梯度下降的直觀理解

2.7 梯度下降的線性回歸

2.8 接下來的內容

三、線性代數回顧(Linear Algebra Review)

3.1 矩陣和向量

3.2 加法和標量乘法

3.3 矩陣向量乘法

3.4 矩陣乘法

3.5 矩陣乘法的性質

3.6 逆、轉置

四、多變量線性回歸(Linear Regression with Multiple Variables)

4.1 多維特徵

4.2 多變量梯度下降

4.3 梯度下降法實踐1-特徵縮放

4.4 梯度下降法實踐2-學習率

4.5 特徵和多項式回歸

4.6 正規方程

4.7 正規方程及不可逆性(選修)

五、Octave教程(Octave Tutorial)

5.1 基本操作

5.2 移動數據

5.3 計算數據

5.4 繪圖數據

5.5 控制語句:for,while,if語句

5.6 向量化 

5.7 工作和提交的編程練習

六、邏輯回歸(Logistic Regression)

6.1 分類問題

6.2 假說表示

6.3 判定邊界

6.4 代價函數

6.5 簡化的成本函數和梯度下降

6.6 高級優化

6.7 多類別分類:一對多

七、正則化(Regularization)

7.1 過擬合的問題

7.2 代價函數

7.3 正則化線性回歸

7.4 正則化的邏輯回歸模型

第八、神經網絡:表述(Neural Networks: Representation)

8.1 非線性假設

8.2 神經元和大腦

8.3 模型表示1

8.4 模型表示2

8.5 樣本和直觀理解1

8.6 樣本和直觀理解II

8.7 多類分類

九、神經網絡的學習(Neural Networks: Learning)

9.1 代價函數

9.2 反向傳播算法

9.3 反向傳播算法的直觀理解

9.4 實現注意:展開參數

9.5 梯度檢驗

9.6 隨機初始化

9.7 綜合起來

9.8 自主駕駛

十、應用機器學習的建議(Advice for Applying Machine Learning)

10.1 決定下一步做什麼

10.2 評估一個假設

10.3 模型選擇和交叉驗證集

10.4 診斷偏差和方差

10.5 正則化和偏差/方差

10.6 學習曲線

10.7 決定下一步做什麼

十一、機器學習系統的設計(Machine Learning System Design)

11.1 首先要做什麼

11.2 誤差分析

11.3 類偏斜的誤差度量

11.4 查準率和查全率之間的權衡

11.5 機器學習的數據

第7周

十二、支持向量機(Support Vector Machines)

12.1 優化目標

12.2 大邊界的直觀理解

12.3 數學背後的大邊界分類(選修)

12.4 核函數1

12.5 核函數2

12.6 使用支持向量機

十三、聚類(Clustering)

13.1 無監督學習:簡介

13.2 K-均值算法

13.3 優化目標

13.4 隨機初始化

13.5 選擇聚類數

十四、降維(Dimensionality Reduction)

14.1 動機一:數據壓縮

14.2 動機二:數據可視化

14.3 主成分分析問題

14.4 主成分分析算法

14.5 選擇主成分的數量

14.6 重建的壓縮表示

14.7 主成分分析法的應用建議

十五、異常檢測(Anomaly Detection)

15.1 問題的動機

15.2 高斯分布

15.3 算法

15.4 開發和評價一個異常檢測系統

15.5 異常檢測與監督學習對比

15.6 選擇特徵

15.7 多元高斯分布(選修)

15.8 使用多元高斯分布進行異常檢測(選修)

十六、推薦系統(Recommender Systems)

16.1 問題形式化

16.2 基於內容的推薦系統

16.3 協同過濾

16.4 協同過濾算法

16.5 向量化:低秩矩陣分解

16.6 推行工作上的細節:均值歸一化

十七、大規模機器學習(Large Scale Machine Learning)

17.1 大型數據集的學習

17.2 隨機梯度下降法

17.3 小批量梯度下降

17.4 隨機梯度下降收斂

17.5 在線學習

17.6 映射化簡和數據並行

十八、應用實例:圖片文字識別(Application Example: Photo OCR)

18.1 問題描述和流程圖

18.2 滑動窗口

18.3 獲取大量數據和人工數據

18.4 上限分析:哪部分管道的接下去做

十九、總結(Conclusion)

19.1 總結和致謝

參考資料

相關焦點

  • 【機器學習基礎】重磅發布!吳恩達 AI 完整課程資源超級大匯總!
    我們對吳恩達所有的關於 ML、DL 等課程、資源等做了詳細的搜集和整理並匯總到這篇文章裡。幫助大家整理出一份超讚的吳恩達 AI 學習路線了!下面將按照推薦的從簡單到困難的學習路線來梳理吳恩達完整的 AI 課程、資源。趕緊一起來看看吧!首先,我們整理了吳恩達完整 AI 資源的思維導圖:
  • 吳恩達的7條機器學習訓練秘籍
    AI 前線導讀:吳恩達作為世界級人工智慧和機器學習領域最權威的學者之一,和 Yann LeCun、GeoffreyHinton、Yoshua Bengio 並稱深度學習界的四大金剛。4月初,我們報導了吳恩達發布新書的消息,並提供了新書的已更新章節內容供大家下載。
  • 吳恩達的深度學習課程值不值得學?四晚學完的高手給你建議
    目前,吳恩達正在做的三大項目已有兩個項目被公布:深度學習在線課程Deeplearning.ai和一個 1.5 億美元的面向人工智慧投資的風投基金。其中,深度學習在線課程的發布讓來自全球的 AI 愛好者圍在這位人工智慧專家身邊,希望能從這門課裡學到更多知識,正在看這篇文章的你或許也想報名參加,先別忙,有位大神花了四個晚上刷完了這套課並拿到了證書,先聽聽他怎麼說。
  • 【重溫經典】吳恩達機器學習課程學習筆記七:Logistic回歸
    【導讀】前一段時間,專知內容組推出了春節充電系列:李宏毅2017機器學習課程學習筆記,反響熱烈,由此可見,大家對人工智慧、機器學習的系列課程非常感興趣
  • 吳恩達計算機視覺:12堂課學習心得
    更多乾貨內容請關注微信公眾號「AI 前線」(ID:ai-front) 吳恩達的機器學習課程在 Coursera 平臺上已上線 5 年左右,該門課程是國內,乃至全球許多機器學習愛好者、專家學者的入門課程。整門課程深入淺出、簡潔易懂。
  • 你(也)是吳恩達的學生麼?
    近日,美國教育媒體EdSurge一篇報導中指出,吳恩達(Andrew Ng)的斯坦福機器學習課自開課以來,6年多後的今天仍是學習平臺Coursera上最受歡迎課程,已經有170萬名學生註冊學習Andrew的這門課!
  • 吳恩達Coursera受他啟發!74歲父親自述學習路,8年學完146門課程
    但這篇文章的主角並不是吳恩達,而是他的父親Ronald Paul Ng,這位已經74歲的老爺子剛剛學完了自己兒子創辦的在線學習平臺上的146門課,花了整整八年時間,其中還包含了吳恩達的深度學習AI課程。
  • 機器之心專訪吳恩達,深度學習課程項目Deeplearning.ai正式發布
    吳恩達表示:Deepleanring.ai 是一套教育課程,而另外兩個項目則有關人工智慧產品,但他目前還不能透露更多細節。在 Deeplearning.ai 發布前夕,機器之心對吳恩達進行了專訪,內容涉及該項目、近期工作的動向,以及對未來的展望。
  • 吳恩達機器學習課程:完全用Python完成,可以的!(附代碼)
    而且你不需要成為Python專家,只需要有良好的數學基礎。「吳恩達的Coursera機器學習課程可以完全用Python完成!」昨天,Reddit論壇的機器學習看板出現這樣一條熱帖。可以說,吳恩達(Andrew Ng)的機器學習課程是很多人、尤其是中國學生進入機器學習世界的引路人,被認為是入門機器學習的最好課程。
  • 學完吳恩達全部深度學習課程,這有一份課程解讀
    學習這些課程的基礎知識要求不多,只要求你事先掌握一些線性代數,以及 Python 基礎編程知識。在我看來,你也需要了解向量計算來理解優化過程的內在知識。但如果你不關心內部運作方式,並只希望了解高級層面上的內容,那就儘管跳過微積分的部分。第 1 課:為什麼深度學習如此熱門?
  • 吳恩達《機器學習訓練秘籍》:7 條關於項目實踐的實用建議
    》(Machine Learning Yearning)是吳恩達的新作,主要講的是如何應用機器學習算法以及如何構建機器學習項目。近年來,人工智慧、機器學習和深度學習迅猛發展,給許多行業帶來了變革。吳恩達是業內的領軍人物之一,他是在線課程項目 Coursera 的聯合創始人,前百度 AI Group 領導人,前 Google Brain 項目負責人。目前他正在編寫《機器學習訓練秘籍》(http://www.mlyearning.org/)這本書,教讀者如何組織機器學習項目。
  • 吳恩達教你如何成為AI業界大佬
    吳恩達教授為機器學習領域的畢業生提供了一些建議。這篇文章內容取自史丹福大學教授、Coursera 聯合創始人吳恩達的課堂演講,主題為《關於在機器學習領域獲得成功職業生涯的幾點建議》。如何找到一份工作成功的 AI 從業者模式如何選擇一份工作機器學習職業生涯的誤區機器學習專業的學生在完成學術研究之後,通常會從事這一領域的工作,或者繼續讀博。
  • 「吳恩達deeplearningai」微信公眾號上線,將發布《機器學習訓練...
    去年 6 月,吳恩達宣布 deeplearning.ai 創業項目,8 月,該項目揭曉:一套由 5 門課組成的深度學習系列課程 —— Deep Learning Specialization,旨在推廣普及深度學習知識。
  • 吳恩達Deeplearning.ai課程學習全體驗:深度學習必備課程
    一周過去後,許多人已經學完了目前開放的前三門課程。這些新課適合哪些人,它是否能和經典的《機器學習》課程相比呢?讓我們先看看這篇先行體驗。(選自Medium 機器之心編譯)    在全職工作與家庭瑣事之間,很多人都希望利用自己的剩餘時間學習認知科學和人工智慧的知識,如果突然出現了一套優秀的課程,那麼一切就會變得簡單起來。
  • 送你一份機器/深度學習自學指南(附視頻&速成方案)
    (以及,如果你確實時間有限,最後還有一個速成指南)五個月入門Part 1:從機器學習開始(兩個月)最好的入門教程,就是吳恩達講授的機器學習。如果時間緊張,至少要聽完前五節課程,後面的可以暫時跳過。吳恩達的機器學習課程深入講解了經典的機器學習模型,如線性回歸、邏輯回歸、神經網絡、支持向量機、PCA、無監督學習等等。大部分重要概念,都以簡單易懂的方式進行了介紹。
  • 跟著吳恩達老師學習機器學習,Python筆記分享!
    我是一個Python使用者而且我不想學Matlab.因此我只在課上學習概念然後自己用Python實現這些算法。我用自己的方式解釋所有的算法(以我能做到的最簡潔的水平)然後演示之前幾篇文章的幾乎所有算法開發過程。我覺得我可以把它們全部總結到一頁紙的篇幅,這樣可以讓學的人更容易跟上一點。有時這點點幫助會起很大的作用。
  • 在等吳恩達深度學習第5課的時候,你可以先看看第4課的筆記
    大數據文摘作品編譯:黨曉芊、元元、龍牧雪等待吳恩達放出深度學習第5課的時候,你還能做什麼?今天,大數據文摘給大家帶來了加拿大銀行首席分析師Ryan Shrott的吳恩達深度學習第4課學習筆記,一共11個要點。在等待第5門課推出的同時,趕緊學起來吧!
  • 吳恩達機器學習入門2018高清視頻公開,還有習題解答和課程拓展
    斯坦福吳恩達的CS229稱第二,恐怕沒人敢稱第一。最近,吳恩達在斯坦福的最新CS229 2018課程,已經完成YouTube上傳——高清哦。沒有高糊勸退,還附送課題討論總結、課後習題和解答參考等珍貴資源,簡直讓你找不到不學的理由!
  • 把吳恩達深度學習系列課程畫出來是這個樣子
    NG也教了一些課程,如機器學習課程,包含了他錄製的視頻講座和斯坦福CS299課程的學生材料。吳恩達的理想是讓世界上每個人能夠接受高質量的、免費的教育。吳恩達目前在做三個AI新項目,第一個AI項目就是Deeplearning.ai。這是個致力於傳播AI知識的項目,正準備在Coursera上推出新的深度學習系列課程。這些課程能幫助你掌握深度學習、有效地運用它,並開啟AI領域的職業生涯。
  • 吳恩達免費NLP課程上線!
    我要給我未來的娃起名叫吳恩達那我們就來看看,能讓粉絲讓未來的娃跟吳恩達姓的課長啥樣。這套課程包含以下內容:· 使用編碼器-解碼器、因果關係和自我注意來執行完整句子的高級機器翻譯、文本摘要、問答,以及設計聊天機器人,涉及的模型包括 T5、 BERT、transformer、reformer等等。學完之後,你就可以設計可以回答問題、做情感分析的NLP應用程式,實現機器翻譯、自動摘要等功能,或者做一個聊天機器人了。