新智元推薦
來源:專知(ID:Quan_Zhuanzhi)
後臺回復「DLPY10」 就可以獲取深度學習課程PPT下載連結~
Francois Fleuret於2000年獲得巴黎第六大學數學博士學位,2006年獲得巴黎第十三大學數學博士學位。他是瑞士Idiap研究所計算機視覺和學習小組的負責人。在此之前,他曾在美國芝加哥大學、法國信息與自動化研究所(INRIA)和瑞士洛桑聯邦理工學院(EPFL)任職。他是IEEE模式分析和機器智能交易的副主編,也是幾個歐洲資助機構的專家。
深度學習課程概述
本課程的目標是提供深度機器學習的完整講解。如何設計一個神經網絡,如何訓練它,以及有哪些現有技術專門處理非常大的網絡結構。本課程旨在教授應用問題的深度學習方法所需的技能。
課程計劃內容:
1. 什麼是深度學習,張量介紹。
2. 基本機器學習,經驗風險最小化,簡單嵌入。
3. 線性可分性,多層感知器,反向傳播。
4. 通用網絡,autograd,批處理,卷積網絡。
5. 初始化、優化和正則化。Dropout,激活歸一化,跳過連接。
6. 計算機視覺的深層模型。
7. 深入模型分析。
8. 自編碼器,嵌入式和生成模型。
9. 循環模型和自然語言處理。
10. pytorch張量,深度學習模塊,和內部構件。
深度學習課程導讀
緒論1.1 從神經網絡到深度學習,21頁slides
1.2 當前成功應用的實例 22頁slides
1.3 正在發生什麼? (13頁slides)
1.4 張量基礎和線性回歸 12 頁slides
1.5 高維張量. 15頁slides
1.6 張量內部 5頁slides
2. 機器學習基礎 2.1 損失函數與風險. 15頁slides
2.2 過擬合與欠擬合. 24頁slides
2.3 方差-偏差困境 10頁slides
2.4 合適評價方法 6頁slides
2.5 基本聚類與嵌入方法19頁slides
3. 多層感知器和反向傳播 3.1 感知器。(幻燈片,講義- 16張)
3.2 線性分類器的概率視圖。(幻燈片,講義- 8張)
3.3 線性可分性與特徵設計。(幻燈片,講義- 10張)
3.4 多層感知器。(幻燈片,講義- 10張)
3.5 梯度下降法。(幻燈片,講義- 13張)
3.6 反向傳播。(幻燈片,講義- 11張)
4. 操作符、autograd和卷積層的圖操作 4.1 DAG網絡。(幻燈片,講義- 11張)
4.2 Autograd。(幻燈片,講義- 19張)
4.3 PyTorch模塊和批處理。(幻燈片,講義- 14張)
4.4 卷積。(幻燈片,講義- 23張)
4.5 池化(幻燈片,講義- 7張)
4.6 編寫一個PyTorch模塊。(幻燈片,講義- 10張)
5. 初始化和優化。 5.1 交叉熵損失。(幻燈片,講義- 9張)
5.2 隨機梯度下降法。(幻燈片,講義- 17張)
5.3 PyTorch優化。(幻燈片,講義- 8張)
5.3 L1和L2 懲罰項。(幻燈片,講義- 10張)
5.4 參數初始化。(幻燈片,講義- 22張)
5.5 網絡架構選擇和訓練協議。(幻燈片,講義- 9張)
5.6 寫一個autograd函數。(幻燈片,講義- 7張)
6. 搞更深 6.1 深度的好處。(幻燈片,講義- 9張)
6.2 修正器。(幻燈片,講義- 7張)
6.3 Dropout (幻燈片,講義- 12張)
6.4 批處理歸一化。(幻燈片,講義- 15張)
6.5 殘差網絡。(幻燈片,講義- 21張)
6.6 使用gpu。(幻燈片,講義- 17張)
7 計算機視覺。 7.1計算機視覺任務。(幻燈片,講義- 15張)
7.2 用於圖像分類的網絡。(幻燈片,講義- 36張)
7.3 用於目標檢測的網絡。(幻燈片,講義- 15張)
7.4 用於語義分割的網絡。(幻燈片,講義- 8張)
7.5 DataLoader和神經。(幻燈片,講義- 13張)
8. 關鍵技巧方法處理 8.1 看參數。(幻燈片,講義- 11張)
8.2 激活。(幻燈片,講義- 21張)
8.3 可視化輸入中的處理。(幻燈片,講義- 26張)
8.4 優化輸入。(幻燈片,講義- 25張)
9. 自編碼器和生成模型。 9.1 轉置運算。(幻燈片,講義- 14張)
9.2 Autoencoders。(幻燈片,講義- 20張)
9.3 去噪和變分自編碼器。(幻燈片,講義- 24張)
9.4 Non-volume保存網絡。(幻燈片,講義- 24張)
10. 生成對抗模型。 10.1 生成對抗的網絡。(幻燈片,講義- 29張)
10.2 Wasserstein GAN。(幻燈片,講義- 16張)
10.3 條件GAN和圖像轉換。(幻燈片,講義- 27張)
10.4 模型持久性和檢查點。(幻燈片,講義- 9張)
11 循環模型與NLP 11.1 循環神經網絡 (slides, handout – 23 slides)
11.2 LSTM 和 GRU. (slides, handout – 17 slides)
11.3 Word embeddings 與translation. (slides, handout – 31 slides)
更多閱讀:突發!中國法院初步裁決禁售多款iPhone,高通告贏了蘋果?孟晚舟終獲保釋!抱律師哭泣,現場掌聲雷動禁售iPhone再升級!高通尋求美國禁止進口蘋果,5G大戰英特爾躺槍