貝葉斯公式的得來
在需要計算事件A在事件B下的條件概率時,可以計算P(A|B)=P(AB)/P(B),又因為條件概率公式P(AB)= P(B|A)*P(A),所以可得P(A|B)= P(B|A)*P(A)/P(B)。而在一個樣本空間中,事件B可以劃分成幾個部分,例如下圖中事件B可以分為AB同時發生和A』B同時發生兩種情況,它們共同組成了事件B,所以事件B的概率還可以表示成P(B)=P(AB)+P(A』B)。
根據條件概率公式對P(AB)和P(A』B)變形可以便得到貝葉斯公式:
在上述貝葉斯公式中,我們將事件B看作事件A和A』發生的情況下產生的結果,於是貝葉斯公式便可以簡單的理解成已知結果發生時求導致結果的某種原因的概率。
例如問題1:
「將兩信息分別編碼為A和B傳送出去接收站收到時,A被誤收作B的概率為0.02,而B被誤收作A的概率為0.01.信息A與信息B傳送的頻繁程度為2:1.若接收站收的信息是A,問原發信息是A的概率是多少?」
在這個問題中,設發送信息A為事件A,發送信息B為事件B,接收到信息的信息為A是事件C,接收到的信息為B是事件D,那麼將事件C作為結果,題目也就轉換成了已知結果C發生求條件A的概率問題。
所以可以得到:
P(A|C)=P(AC)/(P(AC)+P(BC))
P(A)=2/3
P(B)=1/3
P(AC)=0.98*2/3
P(BC)=0.01*1/3
帶入數據可計算出P(A|C)=196/197。
貝葉斯推論
貝葉斯公式經過變形可以得到貝葉斯推論:
在這個式子中,把P(A)稱為"先驗概率"(Prior probability),即在B事件發生之前,對A事件概率的一個判斷。
P(A|B)稱為"後驗概率"(Posterior probability),即在B事件發生之後,對A事件概率的重新評估。
P(B|A)/P(B)稱為"可能性函數"(Likelyhood),這是一個調整因子,使得預估概率更接近真實概率。
而在問題1中,P(A)就是先驗概率,是在實驗結果前測試的概率,而P(A|C)Z則是在實驗結果後得到的後驗概率,由於在式子中的調整因子大於1,所以使得先驗概率被增強,事件A發生的可能性變大了。
貝葉斯推論在現實生活中的運用
貝葉斯推理實際是藉助於新的信息修正先驗概率的推理方法。顯然,這樣的方法如果運用得當,可以在依據概率作出決斷時,不必一次收集一個長期過程的大量資料,而可以根據事物發展的情況,不斷利用新的信息來修正前面的概率,作出正確決策。例如,當無法對一件事做出準確的判斷時,可以通過尋找它的調整因子來增大或者減小它的概率,在經過多次調整後,即可將它的概率增加或者減少到可以做出判斷。