這門課聚焦生成建模技術的理論和數學基礎,探討多種生成模型技術。
在概率統計理論中,生成模型是指能夠隨機生成觀測數據的模型,尤其是在給定某些隱含參數的條件下。它能夠給觀測值和標註數據序列指定一個聯合概率分布。在機器學習中,生成模型可用來直接對數據建模(例如根據某個變量的概率密度函數進行數據採樣),也可以用來建立變量間的條件概率分布。
生成模型是最近較為活躍的研究領域,從事機器學習研究的人有必要了解這一研究主題。去年秋季,華盛頓大學開設了一門主題為「生成模型」的課程 CSE 599,探討了多種生成模型相關技術。
https://courses.cs.washington.edu/courses/cse599i/20au/這門課與當前的生成模型研究緊密相關,並提供了閱讀該領域近期進展相關論文所需的背景知識。課程聚焦生成建模技術的理論和數學基礎,學生在開始本課程前最好了解機器學習領域的基礎概念。該課程於 2020 年 9 月 30 日開始,12 月 7 日結課。目前已放出課程講義和 slide,每節課還提供額外的補充閱讀材料。Generative Sinkhorn Modeling具備類似主題的課程還有史丹福大學開設的 CS236(深度生成模型)課程和加州大學伯克利分校的 CS294-158(深度無監督學習)課程。感興趣的讀者可以多了解這兩門課。課程主講人 John Thickstun 本科畢業於布朗大學應用數學專業,目前在華盛頓大學計算機科學與工程系攻讀博士學位。目前的研究興趣包括生成模型、採樣、時序,及其在音樂領域的應用,多篇論文發表在 EMNLP、ICML、ISMIR、ICLR 等學術會議上。http://homes.cs.washington.edu/~thickstn/編輯:文婧