隨機採樣方法——蒙特卡羅方法

   作者： 劉建平         

編輯：祝鑫泉          

授權轉發自：劉建平《MCMC(一)蒙特卡羅方法》

地址:http://www.cnblogs.com/pinard/p/6625739.html

作為一種隨機採樣方法，馬爾科夫鏈蒙特卡羅（Markov Chain Monte Carlo，以下簡稱MCMC）在機器學習,深度學習以及自然語言處理等領域都有廣泛的應用，是很多複雜算法求解的基礎。

章節目錄

MCMC概述

蒙特卡羅方法引入

概率分布採樣

接受—拒絕採樣

蒙特卡羅方法小結

MCMC概述

從名字我們可以看出，MCMC由兩個MC組成，即蒙特卡羅方法（Monte Carlo Simulation，簡稱MC）和馬爾科夫鏈（Markov Chain ，也簡稱MC）。要弄懂MCMC的原理我們首先得搞清楚蒙特卡羅方法和馬爾科夫鏈的原理。我們將用三篇來完整學習MCMC。在本篇，我們關注於蒙特卡羅方法。

蒙特卡羅方法引入蒙特卡羅原來是一個賭場的名稱，用它作為名字大概是因為蒙特卡羅方法是一種隨機模擬的方法，這很像賭博場裡面的扔骰子的過程。最早的蒙特卡羅方法都是為了求解一些不太好求解的求和或者積分問題。比如積分：

如果我們很難求解出f(x)的原函數，那麼這個積分比較難求解。當然我們可以通過蒙特卡羅方法來模擬求解近似值。如何模擬呢？假設我們函數圖像如下圖:

則一個簡單的近似求解方法是在[a,b]之間隨機的採樣一個點。比如x0,然後用f(x0)代表在[a,b]區間上所有的f(x)的值。那麼上面的定積分的近似求解為:

當然，用一個值代表[a,b]區間上所有的f(x)的值，這個假設太粗糙。那麼我們可以採樣[a,b]區間的n個值：x0,x1,...xn−1,用它們的均值來代表[a,b]區間上所有的f(x)的值。這樣我們上面的定積分的近似求解為:

雖然上面的方法可以一定程度上求解出近似的解，但是它隱含了一個假定，即x在[a,b]之間是均勻分布的，而絕大部分情況，x在[a,b]之間不是均勻分布的。如果我們用上面的方法，則模擬求出的結果很可能和真實值相差甚遠。

怎麼解決這個問題呢？ 如果我們可以得到x在[a,b]的概率分布函數p(x)，那麼我們的定積分求和可以這樣進行：

上式最右邊的這個形式就是蒙特卡羅方法的一般形式。當然這裡是連續函數形式的蒙特卡羅方法，但是在離散時一樣成立。

可以看出，最上面我們假設x在[a,b]之間是均勻分布的時候，p(xi)=1/(b−a)，帶入我們有概率分布的蒙特卡羅積分的上式，可以得到：

也就是說，我們最上面的均勻分布也可以作為一般概率分布函數p(x)在均勻分布時候的特例。那麼我們現在的問題轉到了如何求出x的分布p(x)對應的若干個樣本上來。

條概率分布採樣

上一節我們講到蒙特卡羅方法的關鍵是得到x的概率分布。如果求出了x的概率分布，我們可以基於概率分布去採樣基於這個概率分布的n個x的樣本集，帶入蒙特卡羅求和的式子即可求解。但是還有一個關鍵的問題需要解決，即如何基於概率分布去採樣基於這個概率分布的n個x的樣本集。　

對於常見的均勻分布uniform(0,1)是非常容易採樣樣本的，一般通過線性同餘發生器可以很方便的生成(0,1)之間的偽隨機數樣本。而其他常見的概率分布，無論是離散的分布還是連續的分布，它們的樣本都可以通過uniform(0,1)的樣本轉換而得。比如二維正態分布的樣本(Z1,Z2)可以通過通過獨立採樣得到的uniform(0,1)樣本對(X1,X2)通過如下的式子轉換而得：

其他一些常見的連續分布，比如t分布，F分布，Beta分布，Gamma分布等，都可以通過類似的方式從uniform(0,1)得到的採樣樣本轉化得到。在python的numpy，scikit-learn等類庫中，都有生成這些常用分布樣本的函數可以使用。

不過很多時候，我們的x的概率分布不是常見的分布，這意味著我們沒法方便的得到這些非常見的概率分布的樣本集。那這個問題怎麼解決呢？

接受—拒絕採樣

對於概率分布不是常見的分布，一個可行的辦法是採用接受-拒絕採樣來得到該分布的樣本。既然 p(x) 太複雜在程序中沒法直接採樣，那麼我設定一個程序可採樣的分布 q(x) 比如高斯分布，然後按照一定的方法拒絕某些樣本，以達到接近 p(x) 分布的目的，其中q(x)叫做 proposal distribution。

具體採用過程如下，設定一個方便採樣的常用概率分布函數 q(x)，以及一個常量 k，使得 p(x) 總在 kq(x) 的下方。如上圖。

首先，採樣得到q(x)的一個樣本z0，採樣方法如第三節。然後，從均勻分布（0,kq(z0))中採樣得到一個值u。如果u落在了上圖中的灰色區域，則拒絕這次抽樣，否則接受這個樣本z0。重複以上過程得到n個接受的樣本z0,z1,...zn−1,則最後的蒙特卡羅方法求解結果為：

整個過程中，我們通過一系列的接受拒絕決策來達到用q(x)模擬p(x)概率分布的目的。

蒙特卡羅方法小結

使用接受-拒絕採樣，我們可以解決一些概率分布不是常見的分布的時候，得到其採樣集並用蒙特卡羅方法求和的目的。但是接受-拒絕採樣也只能部分滿足我們的需求，在很多時候我們還是很難得到我們的概率分布的樣本集。比如：

1）對於一些二維分布p(x,y)，有時候我們只能得到條件分布p(x|y)和p(y|x)和,卻很難得到二維分布p(x,y)一般形式，這時我們無法用接受-拒絕採樣得到其樣本集。

2）對於一些高維的複雜非常見分布p(x1,x2,...,xn)，我們要找到一個合適的q(x)和k非常困難。

從上面可以看出，要想將蒙特卡羅方法作為一個通用的採樣模擬求和的方法，必須解決如何方便得到各種複雜概率分布的對應的採樣樣本集的問題。而我們下一篇要講到的馬爾科夫鏈就是幫助找到這些複雜概率分布的對應的採樣樣本集的白衣騎士。下一篇我們來總結馬爾科夫鏈的原理。

END

機器學習算法工程師

                            一個用心的公眾號

長按，識別，加關注

進群，學習，得幫助

你的關注，我們的熱度，

我們一定給你學習最大的幫助