聊聊高斯概率分布的數學公式

2020-12-17 電子工程專輯

這個模擬世界中的各種物理過程都表現出一定程度的隨機性，例如，請想想噪聲。高斯概率分布(Gaussian probability distributions)描述了許多噪聲過程，我們應該看看它的數學公式。KGNEETC-電子工程專輯

從一個非常簡單的公式開始，考慮高斯概率分布的「鐘形曲線(bell curve)」公式：KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

無需繪製圖片，我們知道公式1所描述的曲線在x值為零時具有y值，並且我們進一步知道隨著x值朝向任一值，y值都變為零，負無窮大或正無窮大。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

接下來，依照上面的公式添加「零」和數字「 1」，這實際上並沒有改變任何內容，但是會引導我們進行下一步。下面的公式3引入了平均值和標準偏差。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

本文的「平均值」是一個新的中心值，圍繞它的x值更改將影響y值。現在，當x值等於平均值時，y值將變為1，其中平均值可以為零，也可以為任何非零值。「標準偏差(standard deviation)」將影響隨著x值偏離均值，y值向零下降的速度有多快。KGNEETC-電子工程專輯

標準偏差的較大值將要求x值與平均值相差很大，從而明顯降低y值。 另一方面，當標準偏差較小時，x值與均值的微小偏差將使y值更快地變為零。KGNEETC-電子工程專輯

現在，繪製幾張圖片，以圖形方式查看均值和標準偏差如何完成各自的工作(圖1)。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

圖1 顯示平均值和標準偏差的影響。KGNEETC-電子工程專輯

接下來，透過標準偏差的倒數來縮放y值。請不要擔心為何我們要這樣做，請繼續往下看。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

如果再仔細看一下圖片，會看到標準偏差的附加影響(圖2)。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

圖2 顯示標準偏差的附加影響。KGNEETC-電子工程專輯

接下來，輸入另一個比例因子，即2 *π的平方根的倒數。再度呼籲，不用擔心為什麼，只要繼續看下去。KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

現在，導入一個稱為「方差(variance)」的新術語。方差只是標準偏差的平方。可以將公式重寫為：KGNEETC-電子工程專輯

KGNEETC-電子工程專輯

至此，我們已經完成了。如圖2所示，如果針對從負無窮大到正無窮大的x值範圍內的y值整合這最後兩個公式中的任何一個並進行積分，則曲線下的面積等於1或等於1。使用我們進行的看似任意縮放，最後兩個公式中的任何一個將產生一個積分結果。KGNEETC-電子工程專輯

無論你選擇的是平均值、標準偏差還是方差，積分總是為1，這就是高斯概率分布，可以隨意選擇。KGNEETC-電子工程專輯

現在，我想談談作為數學新手所經歷的一個問題。我試著理解卡爾·弗裡德裡希·高斯(Carl Friedrich Gauss)等如此偉大大師的作品。然而高斯工作時，純粹是行動上的智慧。KGNEETC-電子工程專輯

他推斷出上述公式中需要2 *π的平方根，但是高斯如何得出他的結果？我從未見過任何關於這方面的解釋，也從未見過關於羅必達(l』Hospital)如何得出他尋找極限規則的任何解釋，也沒有見過關於帕普斯(Pappus)理論中尋找環形物體積或其他定理的任何解釋。我只是被教導了這些天才努力的最終結果，以及如何應用其結果，僅此而已。KGNEETC-電子工程專輯

不知何故，由於缺乏更深層的解釋，因此我覺得被哄騙。KGNEETC-電子工程專輯

編譯：Anthea Chuang，EDN TaiwanKGNEETC-電子工程專輯

責編：Luffy LiuKGNEETC-電子工程專輯

(原文發布於ASPENCORE旗下EDN美國版，參考連結：The mathematics of Gaussian probability distribution，by John Dunn)KGNEETC-電子工程專輯

 KGNEETC-電子工程專輯

 KGNEETC-電子工程專輯

相關焦點

  • 這些高斯概率分布數學公式,新手們經歷嗎?
    高斯概率分布(Gaussian probability distributions)描述了許多噪聲過程，我們應該看看它的數學公式。1lIednc從一個非常簡單的公式開始，考慮高斯概率分布的「鐘形曲線(bell curve)」公式：1lIednc
  • 小知識:高斯概率分布的數學解釋
    研究這樣一個非常常見的隨機變量的連續概率分布，稱為正態分布，又稱為高斯概率分布，高斯在研究測量誤差時從另一個角度導出了它，研究了它的性質，是一個在數學、物理及科技工程等領域都非常重要的概率分布，在統計學的許多方面有著重大的影響力。正態曲線兩頭低、中間高，左右對稱因其曲線如鐘形，因此又經常稱之為鐘形曲線。
  • 正態分布和高斯分布的作用_高斯分布的定義_誤差服從高斯分布
    正態分布（Normal distribution），也稱「常態分布」，又名高斯分布（Gaussian distribution），最早由A.棣莫弗在求二項分布的漸近公式中得到。C.F.高斯在研究測量誤差時從另一個角度導出了它。P.S.拉普拉斯和高斯研究了它的性質。是一個在數學、物理及工程等領域都非常重要的概率分布，在統計學的許多方面有著重大的影響力。 　　正態曲線呈鍾型，兩頭低，中間高，左右對稱因其曲線呈鐘形，因此人們又經常稱之為鐘形曲線。 　　若隨機變量X服從一個數學期望為μ、方差為σ^2的正態分布，記為N（μ，σ^2）。
  • 神說,要有正態分布,於是高斯就創造了正態分布 - 徐曉亞然
    棣莫弗公式賭徒把問了數學家棣莫弗，這個數學家雖然不是很有名，名字也有點刁鑽古怪.但是你應該用到過他的數學成果，複數和三角函數之間的橋梁——棣莫弗公式正是這位仁兄的代表作，同時他也是一位概率論方面的大師正態分布公式首次出現這個式子就是大家熟悉的標準正態分布公式，雖然中學時期的所有數學教材裡都會提到正太公式，考試上也是熱門，但是對於這個公式的來源以及重大意義卻從來不提。
  • 高斯分布:大概率事件意味著什麼?
    高斯分布也叫正態分布與泊松分布那樣的小概率事件相對，如果一個事件A發生的概率非常大，等於或者接近1/2（當p大於1/2時，1-p小於1/2，我們把p和1-p互換，依然只要研究p小於1/2的情況），同時試驗次數n也非常大，會是什麼結果呢？
  • 質量人必看:高斯,正態分布……
    在高斯生日的這一天，我們就來聊一聊這位偉大的數學家，以及，他最偉大的貢獻之一：正態分布（又名高斯分布，當然它還有很多其它的「曾用名」，預知詳情，後續的文章為你解答）。高斯出生於1777年4月30日，和阿基米帝、牛頓並列為世界三大數學家，被譽為現代數學的奠基人，享有「數學王子」之稱。
  • 考研數學概率與統計公式大全之隨機變量及其分布
    （1）離散型隨機變量的分布律 設離散型隨機變量 的可能取值為Xk(k=1,2,…)且取各個值的概率，即事件(X=Xk)的概率為 P(X=xk)=pk，k=1,2,…， 則稱上式為離散型隨機變量 的概率分布或分布律。
  • 數學|正態分布(1):正態分布發展史
    表示。正態分布（Normal distribution），也稱「常態分布」，又名高斯分布（Gaussian distribution）。若隨機變量X服從一個數學期望為μ、方差為σ^2的正態分布，記為很難算，正巧在與另一位著名數學家斯特靈（James Stirling）的通信中，兩人討論出了一種近似方法，也就是數學分析中重要的公式——斯特靈公式：
  • 概率|無處不在的高斯分布(1)——標準正態分布
    萬事開頭難，今天的第一講，我們來談一談無處不在的「高斯分布」（又叫「正態分布」，Normal Distribution)。在我看來，所有的統計分布裡最容易理解的是「均勻分布」（Uniform Distribution），但是最常用的分布，一定是高斯分布。
  • 單變量和多變量高斯分布:可視化理解
    高斯分布 高斯分布是正態分布的同義詞。它們是一樣的東西。假設，S是一組隨機值，其概率分布如下圖所示。如果一個概率分布圖像上面那樣形成一個鐘形曲線，並且該樣本的均值和中位數相同，則該分布稱為正態分布或高斯分布。
  • 高斯分布
    二維正態分布的等概率曲線是一個橢圓3.n維正態分布的邊緣分布和條件分布都是正態分布高斯分布是概率論和統計學最重要的分布，在機器學習各種模型的也是處處可見。因此，有必要對高斯分布做深一步的理解。這裡拓展一下，高斯分布最大似然估計的均值是無偏的，方差是有偏的。
  • 為什麼數據科學家都喜歡高斯分布
    對深度學習和機器學習工程師而言，在世界上所有的概率模型中，高斯分布（Gaussian distribution）模型最為引人注目。即使你從來沒有進行過AI項目，有很大的機率你曾經遇到過高斯模型。高斯概率分布函數所有的模型都是錯的，但有些模型有用！—— George Box
  • 貝葉斯、概率分布與機器學習
    下面我用一個小例子來推出貝葉斯定理：已知：有N個蘋果，和M個梨子，蘋果為黃色的概率為20%，梨子為黃色的概率為80%，問，假如我在這堆水果中觀察到了一個黃色的水果，問這個水果是梨子的概率是多少。)]化簡可得：P(pear|yellow) = P(yellow,pear) / P(yellow), 用簡單的話來表示就是在已知是黃色的，能推出是梨子的概率P(pear|yellow)是黃色的梨子佔全部水果的概率P(yellow,pear)除上水果顏色是黃色的概率P(yellow).
  • 透徹理解高斯分布
    開始前，先看幾個重要概念：概率函數：把事件概率表示成關於事件變量的函數概率分布函數：一個隨機變量ξ取值小於某一數值x的概率，這概率是x的函數，稱這種函數為隨機變量ξ的分布函數，簡稱分布函數，記作F(x)，即F(x)=
  • 高斯分布性質與繪圖
    本章定義了高斯分布，並探討了其性質。從實域高斯分布的定義開始。在研究高斯函數實域性質的過程中，引入了傅立葉變換和熱方程，推導了它們與高斯函數的關係。定義了多維空間中的高斯分布，以及該分布的剪切和摺疊。以高斯分布為例，具體介紹了概率統計中的均值、方差、邊緣化和概率密度等概念。
  • 2021考研概率與統計公式:隨機變量及其分布
    )且取各個值的概率，即事件(X=Xk)的概率為 P(X=xk)=pk，k=1,2,…， 則稱上式為離散型隨機變量 的概率分布或分布律。 可以得到X落入區間 的概率。分布函數 表示隨機變量落入區間（– ∞，x]內的概率。
  • 機器學習數學精華:4個角度輕鬆搞定概率統計
    在進行貝葉斯推斷的時候，如果對馬爾科夫鏈蒙特卡洛方法等近似推斷一無所知，可能一個複雜的概率分布就讓你舉步維艱；這麼難，又這麼重要，那就橫下心來咬咬牙，往前衝吧。當你滿懷希望地打開那些經典的大部頭，比如「花書」，比如號稱聖經的 PRML，比如某水果書，又比如隨機過程的高校教材，五分鐘就能讓你完成從開始到放棄，為什麼？最直接的感覺就是：公式太複雜，看不懂；內容太艱深，記不住。
  • 重回數學:統計與分布之伯努利分布與二項分布
    前文列表重回數學：統計分布之泊松分布重回數學：統計與分布之高斯分布重回數學：排列與組合
  • 20.方差/標準差/數學期望/正態分布/高斯函數(數學篇)--- OpenCV從零開始到圖像(人臉 + 物體)識別系列
    本文你會找到以下問題的答案:方差標準差數學期望正態分布高斯函數2.1 方差方差描述隨機變量對於數學期望的偏離程度。其中，X取0的概率為0.01（沒孩子的概率），取1的概率為0.9（1個孩子的概率），取2的概率為0.06（2個孩子的概率），取3的概率為0.03（3個孩子的概率）。則，它的數學期望E(x) = 0 x 0.01 + 1 x 0.9 + 2 x0.06 + 3 x 0.03 = 1.11公式如下：
  • 從貝葉斯定理到概率分布:綜述概率論基本定義
    直覺上這個概率很小，但是我們怎樣才能在數學上做出這個準確的計算呢？條件概率定義為：換句話說，我們用 Rain 且 Sunny 的概率除以 Sunny 的概率。相依事件與獨立事件如果一個事件的概率不以任何方式影響另一個事件，則該事件被稱為獨立事件。以擲骰子且連續兩次擲得 2 的概率為例。這些事件是獨立的。我們可以這樣表述但是為什麼這個公式可行？