林軒田機器學習基石課程學習筆記1 -- The Learning Problem
2021-02-13 AI算法與圖像處理點擊上方「AI算法與圖像處理」，選擇加"星標"或「置頂」
重磅乾貨，第一時間送達
主要內容What is Machine Learning
Applications of Machine LearningComponents of Machine LearningMachine Learning and Other Fields一、What is Machine Learning什麼是「學習」？學習就是人類通過觀察、積累經驗，掌握某項技能或能力。就好像我們從小學習識別字母、認識漢字，就是學習的過程。而機器學習（Machine Learning），顧名思義，就是讓機器（計算機）也能向人類一樣，通過觀察大量的數據和訓練，發現事物規律，獲得某種分析問題、解決問題的能力。
機器學習的過程是從資料出發，經過電腦的計算之後，最終得到某一種表現。
比如通過電腦讓電腦學會預測股票。利用十年前的數據去學習，告訴我明天該怎麼去投資，如果機器真的做到了，那麼說明機器真的學到了這些。這是我們希望機器學習能做的事情。
舉例：如何識別一棵樹
通過我們的腦力去分析這些東西比較困難，因為希望通過機器自己去學習和分析，發現這些規律。
機器學習在構建一個複雜系統的時候是一個可選的方法：
比如：
機器學習要做的事情，是類似於教電腦釣魚的方法，讓它可以一輩子受用。
那麼什麼場景下，考慮使用機器學習解決呢？
機器學習的三個關鍵條件：
當三個關鍵條件都滿足的時候才考慮使用機器學習
測試&答案：
1、預測小孩子接下來的幾分鐘後會哭？no（沒有規則）
2、判斷圖中是否存在圓？no（規則可以輕鬆定義）
3、決定是否該給用戶分發信用卡？yes，不容易編程實現，有大量的客戶歷史信息
4、地球什麼時候會毀滅？no（沒有足夠的數據）
二、Applications of Machine Learning機器學習在我們的衣食住行等各個方面中都有應用。
（1）Food：
數據來源：推特（評價+定位）
功能：了解這家飯店食物的味道如何
（2）Clothing
數據：商品的圖片、用戶穿搭
功能：告訴我們怎樣去搭配衣服才能更加Fashion
（3）Housing
數據：房子的建築特點、使用的能源
功能：預測房子在節能減排上面的能力
（4）Transportation
數據：交通燈的圖片和含義
功能：準確識別交通燈信號
上面只是舉一些例子，當然這樣子的例子還有很多!
機器學習在教育上的應用
數據：學生在上網課中的一些記錄，答題記錄和上課記錄等
功能：預測學生會哪些內容，不會哪些內容，並推薦一些資料。
那麼機器學習要如何去設計呢？
從3000學生中給出900萬數據
利用機器學習去自動確定問題的難度等
娛樂方面的應用，推薦系統
數據：有多少用戶喜歡什麼電影
功能：預測一個用戶有多大概率喜歡一個沒看過的電影
那麼電腦是如何去學習這些特徵呢？
利用模型將用戶和電影用一串特徵來描述，對兩串特徵求內積，如果相乘的分數高，則會給非常高的推薦分數。但是我們沒有辦法去定義這些特徵，所以機器學習通過以往的數據，去學習這些特徵，並預測用戶有多喜歡這部電影。
測試&答案
機器在以下哪些領域用不到？
1、金融 （預測股市）
2、醫療 （預測藥效）
3、法律 （從公文書自動給出摘要，便於搜尋和閱讀）
4、不是上述的任何一個 yes
如何公式化機器學習的問題
基礎的術語：
機器學習流程圖：
從未知規律的數據中，通過學習算法去挖掘，讓最終的 g 接近 f
注意點：
目標函數，f是未知
假說是希望g儘可能的接近f，但是可能還是不同於f
舉例，以信用卡為例
g 到底長什麼樣
今天決定要不要發給客戶信用卡，以下是一些可能的公式
h1：年收入有沒有超過800000，超過就給
h2：負債超過100000給信用卡
h3：工作不滿兩年給他信用卡
將所有的可能h，都放到g的集合中，並從集合中找到最有可能的結果
學習模型=算法+假說
機器學習的定義：從資料出發，機器學習算法要算出一個假說（hypothesis）g，我們希望這個g要很接近我們最渴望的那個f。
測試&答案
歌曲推薦
與機器學習相關的領域有：
數據挖掘（Data Mining） ——>從數據中挖掘一些有用的資料
人工智慧（Artificial Intelligence）——>計算一些東西並顯示出很聰明的行為（比如AI下棋）
統計（Statistics）——>使用數據做一些推論（比如硬幣問題）
機器學習和數據挖掘，非常相像，有些地方還是一樣，密不可分
機器學習是實現人工智慧的一種方式
統計是實現機器學習的一種方法，統計更加關注使用數學理論來給出結果，很少關心計算的問題。統計學給機器學習提供了很多有用的工具。
測試&答案
本節課主要引入了機器學習的概念，機器學習實際上是從資料出發找到一個函數，然後找到的函數和我們最渴望的目標是很接近的。機器學習在很多地方都有應用，其核心 算法，數據（資料），假說（hypothesis）最後得到g。
機器學習和數據挖掘、人工智慧、統計這三個領域做個比較，和各個領域的關係，他們各自有各自的取向。
參考資料：
https://www.bilibili.com/video/BV1Cx411i7op?p=1
https://blog.csdn.net/red_stone1/article/details/101303228
加群交流
歡迎小夥伴加群交流，目前已有交流群的方向包括：AI學習交流群，目標檢測，秋招互助，資料下載等等；加群可掃描並回復感興趣方向即可（註明：地區+學校/企業+研究方向+暱稱）
相關焦點
-
臺灣大學林軒田機器學習基石課程學習筆記1 -- The Learning Problem
最近在看NTU林軒田的《機器學習基石》課程，個人感覺講的非常好。整個基石課程分成四個部分：每個部分由四節課組成，總共有16節課。 -
【本站原創】臺大林軒田《機器學習基石》系列課程教材的習題解答和實現
臺灣大學林軒田老師的《機器學習基石》、《機器學習技法》課程由淺入深、內容全面，基本涵蓋了機器學習領域的很多方面。 -
臺灣大學林軒田機器學習基石課程學習筆記13 -- Hazard of Overfitting
本節課介紹這種模型複雜度增加帶來機器學習中一個很重要的問題：過擬合（overfitting）。一、What is Overfitting?首先，我們通過一個例子來介紹什麼bad generalization。 -
獨家乾貨 | 林軒田機器學習課程精煉筆記!
coursera上開設了兩門機器學習經典課程：《機器學習基石》和《機器學習技法》。《機器學習基石》課程由淺入深、內容全面，基本涵蓋了機器學習領域的很多方面。其作為機器學習的入門和進階資料非常適合。《機器學習技法》課程主要介紹了機器學習領域經典的一些算法，包括支持向量機、決策樹、隨機森林、神經網絡等等。林老師的教學風格也很幽默風趣，總讓讀者在輕鬆愉快的氛圍中掌握知識。本文列出了林軒田機器學習基石和機器學習技法課程的所有精煉筆記，均是紅色石頭精心製作的原創內容。 -
機器學習基石 - (林軒田主講)課程學習
機器學習 - 林軒田臺灣大學-林軒田老師的機器學習課程課程有點小難度，但是是從另外一個角度來闡述機器學習，很有意思！ -
臺灣大學林軒田機器學習基石課程學習筆記16(完結) -- Three Learning Principles
這個例子表明，抽樣的樣本會影響到結果，用一句話表示「If the data is sampled in a biased way, learning will produce a similarly biased outcome.」意思是，如果抽樣有偏差的話，那麼學習的結果也產生了偏差，這種情形稱之為抽樣偏差Sampling Bias。 -
臺灣大學林軒田機器學習基石課程學習筆記7 -- The VC Dimension
前幾節課著重介紹了機器能夠學習的條件並做了詳細的推導和解釋。 -
臺灣大學林軒田機器學習基石課程學習筆記9 -- Linear Regression
一、線性回歸問題在之前的Linear Classification課程中，講了信用卡發放的例子，利用機器學習來決定是否給用戶發放信用卡。本節課仍然引入信用卡的例子，來解決給用戶發放信用卡額度的問題，這就是一個線性回歸（Linear Regression）問題。 -
機器學習算法可行性(機器學習基石)
本文是作者學習臺大林軒田教授《機器學習基石》課程後整理的簡要筆記（未按課程回目分節），內容大部分來源於林軒田教授的課程資料，其餘相關參考連結已標出 -
春節充電系列:李宏毅2017機器學習課程學習筆記19之遷移學習(Transfer Learning)
春節充電系列：李宏毅2017機器學習課程學習筆記01之簡介春節充電系列：李宏毅2017機器學習課程學習筆記02之Regression春節充電系列：李宏毅2017機器學習課程學習筆記03之梯度下降春節充電系列：李宏毅2017機器學習課程學習筆記04分類（Classification）春節充電系列：李宏毅2017機器學習課程學習筆記05 -
林軒田《機器學習基石》課程總結
公眾號發布了一系列臺灣大學資訊工程系林軒田（Hsuan-Tien Lin）教授開設的《機器學習基石》 -
機器學習(Machine Learning)&深度學習(Deep Learning)資料(之一)
最近作者增加了該課程的幻燈片和作業。IR相關資源：http://www-nlp.stanford.edu/IR-book/information-retrieval.html 18．《Machine learning in 10 pictures》 介紹:Deniz Yuret用10張漂亮的圖來解釋機器學習重要概念：1. -
【重溫經典】吳恩達機器學習課程學習筆記七:Logistic回歸
【導讀】前一段時間，專知內容組推出了春節充電系列：李宏毅2017機器學習課程學習筆記，反響熱烈，由此可見，大家對人工智慧、機器學習的系列課程非常感興趣 -
吳恩達《Machine Learning》Jupyter Notebook 版筆記發布!圖解、公式、習題都有了
其課程地址為：https://www.coursera.org/learn/machine-learning關於這門課的官方介紹是：本課程將廣泛介紹機器學習、數據挖掘和統計模式識別。相關主題包括：(i) 監督式學習（參數和非參數算法、支持向量機、核函數和神經網絡）。(ii) 無監督學習（集群、降維、推薦系統和深度學習）。 -
春節充電系列:李宏毅2017機器學習課程學習筆記30之集成學習 (Ensemble Learning)
本文內容主要針對機器學習中Ensemble的bagging、boosting以及stacking進行詳細介紹，話不多說，讓我們一起學習這些內容吧。春節充電系列：李宏毅2017機器學習課程學習筆記21之結構化學習（Structured learning）介紹篇春節充電系列：李宏毅2017機器學習課程學習筆記22之結構化學習（Structured learning）線性模型春節充電系列：李宏毅2017機器學習課程學習筆記23之結構化學習-Structured SVM（part 1）春節充電系列 -
Auto Machine Learning 自動化機器學習筆記
⭐適讀人群：有機器學習算法基礎1. auto-sklearn 能 auto 到什麼地步 -
吳恩達《Machine Learning》精煉筆記 1:監督學習與非監督學習
然而，吳恩達從最早的 CS229，到後來的 deeplearning.ai 深度學習專項課程，還有其它 AI 資源，大神發布的 AI 知名課程和資料非常多。說到吳恩達優秀的 AI 課程，首當其衝的就是幾年前在 Coursera 上發布的《Machine Learning》課程！ -
開發者入門必讀:最值得看的十大機器學習公開課
因而優質的學習資源至關重要。因此，雷鋒網搜集了全世界範圍內最受歡迎的機器學習課程，整理成這份「機器學習十大入門公開課」盤點，集中呈現給各位。這份推薦榜頗費心血，綜合考慮了難易、側重點、時效性等諸多因素，希望能幫助大家找到最適合自己的學習資源。這些課程全部免費開放，但有些需翻牆，有的缺少中文字幕。1. -
春節充電系列:李宏毅2017機器學習課程學習筆記12之半監督學習(Semi-supervised Learning)
本文內容涉及機器學習中半監督學習的若干主要問題:semi-supervised learning for generative model, low-density separation assumption, smoothness assumption以及better representation。話不多說，讓我們一起學習這些內容吧 。 -
春節充電系列:李宏毅2017機器學習課程學習筆記08之「Hello World」 of Deep Learning
春節充電系列：李宏毅2017機器學習課程學習筆記03之梯度下降春節充電系列：李宏毅2017機器學習課程學習筆記04分類（Classification