線性代數與數據學習:MIT教授Gilbert Strang幫你打下堅實的數學...

2020-12-13 機器之心Pro

機器之心編輯

作者：思源、劉曉坤

MIT 教授 Gilbert Strang 最新書籍《線性代數與數據學習》（Linear Algebra and Learning from Data）將在 1 月中旬發行。這一本書為機器學習提供了很多數學基礎，它同時也提供了深度學習一些基本概念。可以說藉助這本書，我們能從數學的角度來理解流行的模型。

書籍主頁：http://math.mit.edu/~gs/learningfromdata/

這本書的目的是解釋數據科學和機器學習所依賴的數學：線性代數、最優化、概率論和統計學。因為在機器學習中，學習函數中的權重會以矩陣形式表示，這些權重通過隨機梯度下降優化，而「隨機」一詞提示訓練收斂是概率性的。此外，概率論中的大數定律被擴展到了大函數定律：如果架構設計良好並且參數計算良好，則有很高的概率能成功收斂。

請注意這不是一本關於計算或編碼或軟體的書。已經有很多書籍對這些方面做了很好的介紹，比如《Hands-On Machine Learning》；還有很多 TensorFlow、Keras、MathWorks 和 Caffe 等的在線資源，也能提供很多幫助。

線性代數有眾多美妙的矩陣變體：對稱矩陣、正交矩陣、三角矩陣、Banded 矩陣、轉置矩陣和正定矩陣等等。在 Gilbert 的教學經驗中，他認為正定對稱矩陣 S 是非常美妙的東西。它們有正的特徵值λ和正交的特徵向量 q，它們的線性組合可以將秩為 1 的簡單映射 qq^T 與對應特徵值重構為正定矩陣 S，即：

如果 λ_1>=λ_2>=...，那麼上式特徵值λ_1 以及對應的特徵向量組成的第一個分量就是 S 最具信息的部分。對於一個簡單的協方差矩陣，這一部分就對應著對大的方差，這也是降維算法 PCA 最核心的思想。

此外，在書籍主頁中，作者還提供了試讀的樣章，包括深度學習、書籍前言、目錄、矩陣初等變換、矩陣乘法和其它一些從矩陣看卷積網絡等新知識。作者表明書籍主頁會持續更新，包括印刷計劃和全本開放閱讀等。

William Gilbert Strang

William Gilbert Strang，美國數學家，在有限元理論、變分法、小波分析和線性代數等方面皆有研究貢獻。他對數學教育做出了許多貢獻，包括出版七本數學教科書和專著。斯特朗現任麻省理工學院數學系 MathWorks 講座教授。主要講授課程為線性代數入門（Introduction to Linear Algebra，18.06）和計算科學與工程（Computational Science and Engineering，18.085），這些課程都可在麻省理工學院開放式課程中免費學習。

以下是這本書的目錄：

本文為機器之心編輯，轉載請聯繫本公眾號獲得授權。

------------------------------------------------

加入機器之心（全職記者 / 實習生）：hr@jiqizhixin.com

投稿或尋求報導：content@jiqizhixin.com

廣告 & 商務合作：bd@jiqizhixin.com

相關焦點

  • 線性代數與數據學習:MIT教授Gilbert Strang幫你打下堅實的數學基礎
    MIT 教授 Gilbert Strang 最新書籍《線性代數與數據學習》（Linear Algebra and Learning from Data
  • MIT大牛Gilbert Strang新書:《線性代數與從數據中學習》搶先看
    這本新書名叫Linear Algebra and Learning from Data（《線性代數與從數據中學習》），面向有一定基礎、想進階線性代數技能的同學。此次教授親自出馬再推新書，號召力非常強大。微博科技博主@愛可可-愛生活推薦後短短幾個小時，已經有200多人轉發。
  • 85歲MIT教授Gilbert Strang《線性代數》2020視頻課,不怕學不會的線代
    他對數學教育做出了許多貢獻，包括出版七本數學教科書和專著。斯特朗現任麻省理工學院數學系 MathWorks 講座教授。主要講授課程為線性代數入門（Introduction to Linear Algebra，18.06）和計算科學與工程（Computational Science and Engineering，18.085），這些課程都可在麻省理工學院開放式課程中免費學習。
  • Linear Algebra|MIT教授Gilbert Strang上線全新「線性代數」公開課,易學易懂!
    課程內容，依然是線性代數教學。這一次，老爺子分享了他關於線性代數教學、學習路徑的一些建議和想法。以大牛視角，帶你重新梳理線性代數。視頻、PPT均可免費下載。如果你覺得英文視頻有一丟丟難啃，好消息是，這份課程還附帶文字稿下載。
  • 86歲還在錄網課:MIT教授Gilbert Strang最新「線性代數」課程上線
    在 B 站上，Strang 老爺子的「線性代數 MIT 18.06」課程也達到了 60 多萬的播放量（只是其中一個資源的統計數據），可以說是 B 站最火的英文《線性代數》課程。同時，這門課程也是 MIT 最受歡迎的課程之一。根據 OCW 官網統計的數據，這門課程自 2002 年第一次發布以來，總訪問量已經超過 1000 萬。
  • Gilbert Strang教授的MIT公開課:數據分析、信號處理和機器學習中的矩陣方法
    線性代數的相關課程裡，我最推崇的還是MIT Gilbert Strang教授的線性代數課程，關於這方面資源的介紹，可以參考我們之前那篇文章：那些值得推薦和收藏的線性代數學習資源
  • 不瞞你說,我是聽著MIT教授Gilbert Strang線性代數課入門的!現86歲,仍堅持課堂!
    ，他是MIT教授Gilbert Strang講解！一  MIT線性代數課程資料無論你是在學校、youtube、B 站還是其他地方學《線性代數》，相信你對 MIT 的 Gilbert Strang 老爺子都不會陌生。我本人接觸這門課是在網易雲課堂，那裡面還有中文字幕翻譯，當時本科同學強烈安利這門課程，大家也確實看了這個課後，才說自己懂了矩陣，了解了線代。
  • 85歲MIT教授上線全新「線性代數」公開課:大牛幫你重新梳理知識點
    課程內容，依然是線性代數教學。這一次，老爺子分享了他關於線性代數教學、學習路徑的一些建議和想法。以大牛視角，帶你重新梳理線性代數。視頻、PPT均可免費下載。在這門課中，Strang教授以獨立向量和矩陣的列空間作為學習線性代數的起點，逐步引出正交向量、特徵值和特徵向量、奇異值等知識點。
  • 同濟版《線性代數》引爭議,從清華改用MIT數學課程看中美教育
    想打下堅實數學基礎，清華學生是這樣學的　　所以，既然線性代數這樣學效率有點低，我們應該用什麼姿勢學習呢？　　其實人們一直都在思考這個問題。我們通常接觸到的課本一般是先給出定義，然後是定理和證明方法，很容易讓非數學專業的學生失去興趣。而 Strang 教授的教材則是「先告訴你一些有意思的數學事實，之後告訴你我們怎麼解決那些問題之中較為簡單的（有一部分方法甚至是依靠嘗試和數學直覺），再和你一起探究這麼解決為什麼對，是否存在理論基礎，留一些習題讓你自己去試試它真的是對的，最後再做其他的深入探究，並提煉為定理。」
  • 如何自學MIT的應用數學課程?這裡有個參照給你
    所以，一路上伴隨著幸運和動力的我從此埋頭於研究深度學習，並且為了看懂文獻自學了所有必需的數學基礎。問題是，我漸漸開始喜歡上了數學這門學科本身。而且雖然除了線性代數、概率論和一點向量微積分之外，學習機器學習確實並不需要大量的數學知識，但我發現身邊許多優秀的人通過研究各種數學問題往往可以在機器學習中取得有趣的新突破。因此，我喜歡數學，而且夯實數學基礎看起來對於我將來的深入研究和思路拓展都十分有益。
  • 資源| 自學數據科學&機器學習?19個數學和統計學公開課推薦
    如果你正面臨著這樣的難題，不要驚慌，現在我已經把這項艱辛的工作幫你完成了。這份列表推薦了來自 Coursera、edX、Udemy 和 Udacity 的最受歡迎的數據科學數學基礎公開課。這份列表經過了精心的編排，讓你可以結構化地自學數據科學所需的數學概念。現在就開始學習吧！什麼樣的課程適合你？
  • 線性代數重要,選對教材更重要:同濟版《線性代數》引發激烈爭議
    想打下堅實數學基礎，清華學生是這樣學的所以，既然線性代數這樣學效率有點低，我們應該用什麼姿勢學習呢？其實人們一直都在思考這個問題。去年，清華大學將「線性代數」科目的課本改成英文教材就引發了人們的熱議。在 B 站上，Strang 老爺子總共 27 個多小時的「線性代數 MIT 18.06」課程也已達到了 73 萬的播放量（其中一個資源的數據），可以說是 B 站最火的英文《線性代數》課程了。當然這門課程在國外也是 MIT 最熱門的課程之一。根據 OCW 官網統計的數據，自 2002 年第一次發布以來，該課程的總訪問量已經超過 1000 萬。
  • 線性代數重要，選對教材更重要：同濟版《線性代數》引發激烈爭議
    在其他關於線性代數的帖子中，我們也發現了關於該書「行列式」編排的吐槽。一位名叫 @李佳繁的知乎用戶發帖表示：「行列式的定義給的很早難道不會讓你感到很突兀和很沒有必要麼？！而且行列式是線性代數中幾乎最為重要的概念之一，一上來就只是用數學語言給他了一個規定，在學線性代數的初期，能體會到什麼？」
  • 線性代數與張量?這本開放書籍幫你掃清通往ML的數學絆腳石
    史丹福大學教授 Stephen Boyd 聯合加州大學洛杉磯分校的 Lieven Vandenberghe 教授出版了一本基礎數學書籍，從向量到最小二乘法，分三部分進行講解並配以輔助資料。此外，這本書也是斯坦福 EE103 課程、UCLA EE133A 課程的教材，由劍橋大學出版社出版（允許網絡公開）。
  • MIT Kleitman 教授:這是初學者該了解的微積分
    在機器學習的數學基礎中，概率論與線性代數起到了核心作用，但是我們常忽略另一個非常重要的領域：微積分。似乎我們只要了解簡單的多元微分，那麼也就能學習機器學習了。但這只是一個錯覺，我們不論想要具體了解最優化方法，還是希望窺探反向傳播的法則，微積分是不可或缺的部分。
  • 開源/免費數學書大合集:微積分、線代、數分、抽代…數學教授分類整理,精心推薦
    Ernst，分門別類整理出來推薦給大家的：微積分、離散數學、線性代數、抽象代數、實分析……你想要的或許都在這裡了。其中，還有一些是可以互動的課本：那麼，仔細觀察一下列表裡都有哪些寶藏。大列表是由一些小列表組成，其中最豐盛的就是微積分。
  • 深度學習自學指南:6個月,從基礎知識到模型構建
    原作：Bargava安妮 編譯自 Medium量子位 出品 | 公眾號 QbitAI給你6個月的時間開始學習深度學習，能夠達到怎樣的程度？在這篇文章中，數據科學培訓老師Bargava就帶你半年入門深度學習。
  • MIT等美國計算機名校有哪些好的計算機視覺/機器學習等公開課?
    6.830 Database Systems課程連結：http://db.csail.mit.edu/6.830/資料庫系統的一門核心課程。由資料庫的一大山頭Samuel Madden教授。Linear Algebra (MIT Gilbert Strang)課程連結：https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/video-lectures/可能是全世界最棒的數學課之一了。
  • 數學公共課《線性代數》在線教學VS傳統課堂的探討
    》的大一、大二學生，23名正在教授《線性代數》的老師，想聽聽他們的想法，老師們和同學們，很有心得。 調研一：目前的《線性代數》網上教學形式比著傳統教學你感覺如何？（「學」之調研，數據實時更新，有效回答413人）
  • 同濟版《線性代數》引發激烈爭議:深度學習基礎很重要
    在其他關於線性代數的帖子中，我們也發現了關於該書「行列式」編排的吐槽。一位名叫 @李佳繁的知乎用戶發帖表示：「行列式的定義給的很早難道不會讓你感到很突兀和很沒有必要麼？！而且行列式是線性代數中幾乎最為重要的概念之一，一上來就只是用數學語言給他了一個規定，在學線性代數的初期，能體會到什麼？」