【導讀】貝葉斯深度學習對於理解深度學習這個黑盒子能提供可解釋性,在深度學習理論研究中這幾年也是非常地熱。機器學習專家Andrew Gordon Wilson 在這個PPT教程詳細講述了模型選擇、貝葉斯和頻率的區別、貝葉斯推斷、預測分布、Beta分布、高斯過程、神經網絡、以及作者最新提出的Bayesian GAN。
為什麼需要使用貝葉斯深度學習(Bayesian Deep Learning)?
為什麼不呢?
在過去的兩年裡,作者將這些局限性作為一個非常富有成果的研究方向的一部分,並取得了令人振奮的進展。詳細見PPT內容。
摘要
生成對抗網絡(GANs)可以隱式地學習圖像,音頻和數據上豐富的分布表示,這些分布難以顯式地進行建模。 作者提出了一種實用的貝葉斯公式,用於使用GAN進行無監督和半監督學習。
在此框架內,作者使用隨機梯度哈密頓蒙特卡羅(Hamiltonian Monte Carlo)來邊緣化生成器和判別器網絡的權重。 這種方法簡單直觀,並且在沒有任何標準幹預(比如標籤平滑或小批量判別)的情況下獲得良好的性能。 通過探索生成器參數的表達後驗,Bayesian GAN避免了模型崩潰,產生了可解釋和多樣化的候選樣本,並為包括SVHN,CelebA和CIFAR-10在內的基準測試提供半監督學習的最好的(state-of-the-art)定量結果。 並且表現優於DCGAN,Wasserstein GAN和DCGAN。
https://arxiv.org/abs/1705.09558
https://github.com/andrewgordonwilson/bayesgan
請關注專知公眾號(掃一掃最下面專知二維碼,或者點擊上方藍色專知),
作者主頁連結:
https://people.orie.cornell.edu/andrew/
附PPT原文:
人工智慧領域主題知識資料查看與加入專知人工智慧服務群:
【專知AI服務計劃】專知AI知識技術服務會員群加入與人工智慧領域26個主題知識資料全集獲取。歡迎微信掃一掃加入專知人工智慧知識星球群,獲取專業知識教程視頻資料和與專家交流諮詢!
請PC登錄www.zhuanzhi.ai或者點擊閱讀原文,註冊登錄專知,獲取更多AI知識資料!
請加專知小助手微信(掃一掃如下二維碼添加),加入專知主題群(請備註主題類型:AI、NLP、CV、 KG等)交流~
請關注專知公眾號,獲取人工智慧的專業知識!
點擊「閱讀原文」,使用專知