資料| 1800頁33章數學方法精要筆記 —深入數學建模, 機器學習和...

2021-01-10 雷鋒網

本文轉載自:https://zhuanlan.zhihu.com/p/154059915

書籍免費下載地址:https://www.yanxishe.com/resourceDetail/1919?from=leiphonecolumn_res0709

1 書籍介紹  · · · · · ·

在信息爆炸的當今,大到企業巨頭的經營方向, 小到和日常生活相關的人工駕駛等領域,數學建模和人工智慧都對信息數據的收集、處理、解釋以及做出決策將起到至關重要的作用。負責開發模型和算法的一線科學家和工程師, 都需要有堅實的數學基礎。相信有許多所有對數學建模,機器學習和深度學習深感興趣的小夥伴,有一定的基礎卻常常被繁雜的定理和錯綜的模型所困 —— 那麼這本書就是一部可供隨時查閱,幫助大家融會貫通的寶典。

本書有以下幾大亮點:

a. 全書乾貨多覆蓋範圍廣, 包含~100 個核心算法, 約 300 個示意圖。例子豐富,且絕大部分定理都有證明。

b. 本書凝聚了作者多年數學建模和機器學習研究和實戰經驗。根據應用領域, 本書總結並深入講述傳統方法到前沿的深度學習和強化學習算法,幫助讀者迅速抓住重點,減少彎路。

a. 本書的算法和定理證明中常常引用相關的其他章節,循序漸進,有助於讀者建立樹狀知識脈絡,一網打盡相關知識點。

b. 本書例子詳實並多伴有示意圖,清晰易懂。作者基於多年實踐,總結並對易混淆的概念進行比對,幫助讀者更加紮實掌握相關內容。

全書 GitHub 地址:https://github.com/yangyutu/EssentialMath

全書總共 33 章分成六個部分:

Mathematical Foundations(數學基礎)

Mathematical Optimization Methods(數學優化方法)

Classical Statistical Methods(經典統計方法)

Dynamics Modeling Methods(動力系統建模方法)

Statistical Learning Methods(統計學習方法)

Optimal Control and Reinforcement Learning Methods(最優控制和強化學習方法)

作者對一些熱門章節進行章節歸類打包下載

Linear Algebra and Matrix Analysis

Mathematical Optimization

Probability and Statistical Estimation

Stochastic Process

Markov Chain and Random Walk

Linear Regression Analysis

Statistical Learning

Neural Network and Deep Learning

(Deep) Reinforcement Learning

整體目錄如下:

I Mathematical Foundations

Sets, Sequences and Series

Metric Space

Advanced Calculus

Linear Algebra and Matrix Analysis

Function Sequences, Series and Approximation

Basic Functional Analysis

II Mathematical Optimization Methods

Unconstrained Nonlinear Optimization

Constrained Nonlinear Optimization

Linear Optimization

Convex Analysis and Convex Optimization

Basic Game Theory

III Classical Statistical Methods

Probability Theory

Statistical Distributions

Statistical Estimation Theory

Multivariate Statistical Methods

Linear Regression Analysis

Monte Carlo Methods

IV Dynamics Modeling Methods

V Statistical Learning Methods

Supervised Learning Principles and Methods

Linear Models for Regression

Linear Models for Classification

Generative Models

K Nearest Neighbors

Tree Methods

Ensemble and Boosting Methods

Unsupervised Statistical Learning

Neural Network and Deep Learning

VI Optimal Control and Reinforcement Learning Methods

2 內容展示  · · · · · ·

2.1 線性代數篇

SVD (矩陣奇異值分解) 是線性代數中最重要工具之一, 經常在各類統計以及重要機器學習方法中出現。作者用如下圖示和定理對 SVD 的性質進行總結和證明。該證明簡潔扼要,且所用到的其它輔助定理與證明都在本書中 。作者使用一個圖示來分別指出 complete form SVD 和 compact form SVD 的結果和原矩陣的關係。

作者同時指出新手常混淆的一個知識點:


2.2 統計篇

多元高斯隨機變量 (multivariate random variable) 的 affine transformation 經常被用於證明高斯隨機變量的一系列重要性質(比如加和, 條件等)。本書首先給出用矩函數對此定理的證明。

然後本書給出此定理在多元高斯隨機變量加和中的應用。值得一提的是, 作者用腳註強調 jointly normal 這一重要條件。


2.3 機器學習篇

在機器學習的線性分類模型中,三種常見模型 SVM, logistic regression 和 Perceptron learning 可以統一在同一個數學優化框架下,每種方法對應不同的 loss function。作者對如何把這三種模型轉化成同一個框架進行了詳細的闡述和證明。


2.4 強化學習篇

Value iteration 值迭代是強化學習的基石型定理之一,然而目前很多教材資料中並沒有給出證明。

本書通過 contraction mapping 和 fixed point theorem 得出簡明的證明。contraction mapping 和 fixed point theorem 的知識點則在在本書 Part I 有詳細介紹。

之後作者給出基於 value iteration 的算法。


3 作者心得體會  · · · · · ·

這本書來源於我在美國攻讀博士期間上的上課筆記。當時為了解決科研中 一些難題, 上了大量計算機和數學課。筆記由一開始的零零散散,到後來漸成規模。我真正開始系統性地整理成書是受到如下一句話的啟發:

If you want to learn something, read about it. If you want to understand something, write about it. If you want to master something, teach it.

我逐漸搭建本書的框架,將學習筆記的內容在框架下進行整合,把最核心的知識點提煉出來。隨著我的科研領域從最初的計算物理建模到現在的微型機器人系統的多智體強化學習,本書的內容也從傳統應用數學和統計擴展到前沿的深度學習和人工智慧方法 。在寫書的過程中,我能感受到自己的知識體系越發完備,且系統性的學習和研究對於理論難點的掌握,以及跨領域的應用都有著至關重要的作用。


我希望將自己的書和心得體會分享給大家。無論是能夠為志同道合的小夥伴們解答一些疑惑,還是幫助希望入門的朋友」 打通任督二脈 「,或者是給同在科研戰線上奮鬥的同志一些靈感,我都會非常開心。

開源項目地址:https://github.com/yangyutu/EssentialMath

開源項目作者:Yuguang Yang


補充說明  · · · · · ·

本站所有資源版權均屬於原作者所有,這裡所提供資源均只能用於參考學習用,請勿直接商用。如需刪除,請聯繫 kefu@yanxishe.com


AI 研習社已經和阿里大文娛、曠視、搜狗搜索、小米等知名公司達成聯繫,幫助大家更好地求職找工作,一鍵投遞簡歷至 HR 後臺,準備了一些內推渠道群。

歡迎大家添加研習社小學妹微信(aiyanxishe),小學妹拉你加入(備註求職)。

雷鋒網雷鋒網(公眾號:雷鋒網)雷鋒網


相關文章:

資料 | 算法(第4版)【圖靈程序設計叢書】算法領域的經典參考書

資料 |世界著名計算機教材精選:數據挖掘十大算法(中文版)

資料 | 樹莓派Python編程入門與實戰

資料 | 最優化理論與算法(第2版)

資料 | 《人工智慧編程範式:通用Lisp中的案例研究》1048頁PDF免費下載

資料 | Yann LeCun「人工智慧發展的挑戰在於無監督學習」原版演講PPT

資料 | 算法圖解:像小說一樣有趣的算法入門書

資料 | 【復旦大學邱錫鵬老師】面向自然語言處理的深度學習基礎,199頁ppt

資料 | Python語言程序設計基礎(第2版)

資料 | Python 神經網絡編程

資料 | 神經網絡與深度學習(邱錫鵬)

資料 | 科技之巔:《麻省理工科技評論》50大全球突破性技術深度剖析

資料 | 解析深度學習:卷積神經網絡原理與視覺實踐

資料 | 谷歌的故事

資料 | Python學習手冊(第4版)

資料 | 深度學習之美:AI時代的數據處理與最佳實踐

資料 | CVPR 2020 論文合集,共1466篇!

資料 | Python數據結構與算法分析(第2版)

資料 | 基於深度學習的自然語言處理

資料 | 我的第一本算法書

雷鋒網版權文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 資料| 機器學習中的數學
    以下書籍介紹來自豆瓣內容簡介 · · · · · ·《機器學習中的數學》是一本系統介紹機器學習中涉及的數學知識的入門圖書,本書從機器學習中的數學入門開始,以展示數學的友好性為原則,講述了機器學習中的一些常見的數學知識
  • 高考數學丨「全國卷」壓軸解答題解題策略+58頁導數解題筆記
    全國卷對於導數應用的考查,其難點一直圍繞函數的單調性、極值和最值展開,以導數為工具探究函數的性質,藉此研究不等式、方程等問題,著重考查分類討論、數形結合、化歸與轉化的數學思想方法,意在考查學生的運算求解能力、推理論證能力,充分體現數學理性思維的特點,從思維的層次性、深刻性和創新性等方面進行考查
  • 數學建模研究過程指導:從高中數學體會數學概貌和數學建模
    說明:此文稿為朱浩楠老師於2018年11月-12月北京地區聯校數學建模活動的課題研究階段中,每天一篇發布給各課題組的研究方法指導文件的匯總。為方便更多的同學參考使用,現調整為正序後通過遇見數學微信公眾號發布,版權歸朱老師和遇見數學公眾號所有。
  • 數學建模論文模板
    數學建模論文模板前言:一、論文格式規範●論文(答卷)用白色A4紙,上下左右各留出2.5cm的頁邊距●第一頁為保證書,(2)支撐材料:包括用於支撐參賽論文中模型、結果和結論的所有必要材料,通常應包含所有可運行的源程序、自己查閱並使用的數據和難以從公開渠道找到的相關資料等。使用WinRAR壓縮為一個文件,並以圖所示的方法命名。
  • 那些考研數學140+的大神是怎樣複習的?趕緊收藏!
    考研數學應該是大家心頭上的一點硃砂痣,拉分很大一部分都是因為它,不論是我們甩開別人還是被別人甩開。那麼要如何高效複習考研數學呢?小編今天就幫大家整理了以下高效複習四階段,以及注意事項。複習四階段1.一定要做!
  • 高中數學有難度,高一新生適應高中數學學習,需要琢磨四個細節
    學習數學有困難的新高一同學應怎樣順利度過適應期呢?高一新生適應高中數學學習,需要琢磨以下四個細節。一、養成預習習慣,提高自學能力學習數學如果光靠老師是肯定不行的,需要在老師引導下,積極主動地參與,並經常發現和提出問題,這樣才可以把數學學習得更好。升入高中後,高一年級的學生,面臨高中老師的教學方法改變,過去的學習數學的經驗沒有了效果,家長輔導的能力也跟不上了。
  • 一本100頁的機器學習書籍近日大受好評
    一本100頁的機器學習書籍近日大受好評 李倩 發表於 2018-11-20 09:27:37 這是一本只有100頁,任何只要有基礎數學知識的人都能看懂的機器學習書籍。
  • 《文匯報》:中學和大學為何要重視數學建模教育
    但是,要顯示數學強大的生命力,需要將實際問題化為相應的數學問題,然後對這個數學問題進行分析和計算,最後將所求解答回歸實際,看能否有效地回答問題,如果不能,再從頭調整,直到基本滿意為止。這個過程,特別是其中第一步,就是數學建模,即為所考察的實際問題建立數學模型。數學建模是聯繫數學與應用的重要橋梁。
  • 四年級數學上冊《平行四邊形和梯形》學霸手抄課文筆記 實拍版
    我們都知道,一到三年級的數學內容大部分以計算為主,難度並不大,但是,到了四年級慢慢出現混合運算、簡便計算,其中所學的圖形:平面圖形,平行四邊形和梯形的認識,就是為五六年級進入立體圖形(如長文體和正文體、圓柱和圓錐),甚至以後初中數學的學習打基礎
  • 數學建模——數學與現實世界的橋梁
    那麼作為初中教師的我們,又該如何讓學生們直觀且清楚的看到他們所學到的數學知識到底是如何應用到日常生活中的呢?這就得依靠我們數學與現實世界的橋梁——數學建模。所謂數學建模,實際上就是利用數學工具解決實際問題的重要手段。
  • 觀點| 我們該如何學習機器學習中的數學
    本文的寫作目的是介紹構建機器學習產品或進行相關學術研究所必需的數學背景,以及數學在工程和研究中的重要性。這些建議是根據我和機器學習工程師、研究者和教育者交流而得到的,當然也有我自己在機器學習研究和業界工作中的個人經驗。為了構建必備的數學背景,我首先提出不同的思維模式和策略,幫助大家在學校之外也可以接受數學教育。
  • 到底什麼是數學?——讀《這才是數學》
    喬·博勒(Jo Boaler)(1964-)是英國教育作家,也是史丹福大學教育學院數學教育的Nomellini-Olivier 教授。博勒參與推動數學教育改革和建立公平的數學課堂。她是youcubed 的斯坦福中心的聯合創始人兼教務主任,該中心為教師,學生和父母提供數學教育資源。
  • 機器學習會取代數學建模嗎?讓我們假設一個微積分落後但深度學習...
    在機器模型盛行的當代,數學建模是否已無立足之地了呢?  對於那些擅長於用微分方程、概率論解決問題的數學家們來說,素有「黑盒子」之稱機器學習往往是要被踢到鄙視鏈底端的。  更驚人的是,很多數學博士生打算將機器學習嵌入到它們的研究課題中,從而形成將「傳統」(ODE和PDE)和「現代」(深度學習)相結合和新型混合模型。  所以,機器學習是否會最終取代數學建模?  如果數學模型在科研領域無法突破,我們最終是否會使用機器學習的方法來獲得建模上的進展呢?  當然不是!
  • 院士李大潛:高校為競賽開設數學建模課是本末倒置
    新華網成都12月12日電(記者 吳曉穎)「高校開設數學建模課要針對大多數學生的情況和需要,將這門課作為競賽的培訓課程來開,這種本末倒置的行為不可取。」12日,在成都舉行的2015年全國大學生數學建模競賽頒獎儀式上,中國科學院院士李大潛直言國內數學建模課中存在的問題。
  • 417頁《機器學習中的數學》免費開放下載!| 好書分享
    然而,機器學習不等同於深度學習(深度神經網絡),要學好機器學習並不容易。工欲善其事必先利其器,對機器學習而言,這把利器無疑就是數學。AI科技評論今天給大家介紹一本今年由劍橋大學出版社出版的一本新書:《Mathematics for machine learing》~
  • 數學建模22:Voronoi圖與Dirichlet自由變形
    本講導讀當我們拍了照片要修圖的時候數學裡的Voronoi圖和基於它的Dirichlet自由變形方法可以解決這個問題——Voronoi圖是中學數學中常見的幾何現象,我們在初中時尺規作圖尋找三角形的外心,其實就是在做3個點的Voronoi圖,而Dirichlet自由變形方法需要用到高中的平面向量知識以求取不規則四邊形的面積。本講適合在講授或學習完高中數學的平面向量、直線和圓章節後,作為數學建模材料在日常教學中講授或學習。
  • 數學資料集合這裡的資料不會丟
    超級數學建模公眾平臺一直致力於數學建模的普及和推廣工作。
  • 高考數學建模核心素養,加油吧考生
    數學建模是數學核心素養的重要組成部分,通過模型的建立能夠讓學生充分理解所學的數學知識,通過規律的推導和總結,將數學知識通過數學語言表述以解決同類問題。但是建模過程耗時費力,很多教師都弱化這個能力培養,實際建模是能夠有效促進學生學習數學,應用數學的最佳途徑。本文通過高中數學建模教學案例分析,論述高中數學建模能力培養方法。
  • 蔣軒軒:我的中國研究生數學建模競賽獲獎經驗分享
    蔣軒軒在本次研究生數學建模競賽中提交的作品題目是「能見度估計與預測」,文章以殘差網絡和LSTM神經網絡為基礎,針對機場團霧模型及其拍攝數據進行了量化分析和研究,在對各類數據進行預處理時,運用了DirectShow技術、離散化處理、離群點剔除等方法。
  • 八年級數學筆記,三角形有這樣幾個重要知識點,初二學生要知道
    多年以後,你也許不會記住某一道題怎麼解,但在學習數學過程中培養起來的思維能力和思維方式,邏輯推理能力將會伴隨,影響你一生。八年級數學是初中數學的一個分水嶺,一些人容易把數學想得太簡單,一部分人會把數學想得太難。