參數估計-矩估計

2021-01-08 源盡草木

在說明什麼是矩估計法之前先引進「矩」的概念。在數學和統計學中,矩(moment)是對變量分布和形態特點的一組度量。在統計學中,總體特徵數除了平均數、方差等,還有就是原點矩與中心距,稱其為總體中心距與總體原點矩。在樣本特徵數中也有原點矩與中心距,稱其為樣本原點矩與樣本中心距。

總體k階原點矩:

總體k階中心距:

樣本k階原點矩:

樣本k階中心距:

觀察可以發現總體一階原點矩就是總體的期望E(X),也就是μ。樣本一階原點矩即為樣本均值。另外,不論總體還是樣本,中心距中的k都是從2開始的,因為當k等於1時,中心距的值為0。除此之外,不論總體還是樣本,二階中心距為總體方差或樣本方差。

矩估計法是參數估計中點估計的兩種方法之一,另外一種參數的點估計是極大似然估計。矩估計就是用樣本的矩去估計總體的矩,即用樣本一階原點矩去估計總體的一階原點矩,用樣本的二階原點矩去估計總體的二階原點矩。必須要注意的是,用來進行矩估計的是原點矩不是中心距。這裡我們來舉個例子

例1;總體X服從正態分布N(μ,σ2),x1,x2,....xn是來自總體X的樣本,請用矩估計法對正態總體中的未知參數μ與σ進行估計。

對於總體參數μ,因總體一階原點矩即為參數μ。所以對應的,我們用樣本一階原點矩對總體參數μ進行估計。得出總體參數μ的估計值。

對於總體參數σ,通過式(2),用樣本二階原點矩對總體參數σ進行估計。得出總體參數σ的估計值。

式2
式3
式4

例2;總體服從參數為λ的指數分布,x1,x2,x3..是來自總體的樣本,對λ進行矩估計。

總體:

總體均值
總體方差

此時對λ的估計可以通過樣本的一階原點矩進行估計,也可以用二階原點矩進行估計。即

λ的矩估計
λ的矩估計

通過兩個例子我們不難發現,進行矩估計時,用樣本一階原點矩去估計總體一階原點矩時,其實就是用樣本均值估計總體均值。而在進行二階原點矩估計時,就是用樣本方差去估計總體方差,即使在總體分布未知的條件下也可以。但是第一個例子中,總體是服從正態分布的,需要估計的是兩個參數,即μ與σ,所以我們用了一階與二階原點矩分別對兩個參數進行了估計。但是對於指數分布或是泊松分布這類只有一個參數的分布,用一階或二階都能對參數進行估計,說明矩估計法的結果是不唯一的,而這也是矩估計的缺點。此時通常儘量採用低階矩對未知參數進行估計。

相關焦點

  • 參數估計之點估計和區間估計
    它是統計推斷的一種基本形式,分為點估計和區間估計兩部分。一、點估計點估計是依據樣本估計總體分布中所含的未知參數或未知參數的函數。簡單的來說,指直接以樣本指標來估計總體指標,也叫定值估計。通常它們是總體的某個特徵值,如數學期望、方差和相關係數等。
  • 【原創】參數估計與假設檢驗(一)-- 參數估計之點估計
    那麼,這裡的樣本均值15.18就可以作為整個湖中所有Bream魚的寬度均值的一個估計。在統計中,進行點估計的方法有多種,例如矩估計法、最小二乘法、極大似然法,其中極大似然估計又有很多改進的形式,比如限制極大似然等。SAS/STAT的PROC步中允許用戶在進行參數估計的時候指定不同的參數估計方法。
  • OLS估計Logit模型參數
    應用背景reg2logit 是 2020 年由 Paul T. von Hippel 等人提出的由線性回歸的 OLS 估計 logistic 模型參數的新命令,其估計的理論基礎是 Haggstrom (1983) 提出的變換公式。該公式後來被 Allison (2020) 應用為「線性判別模型」(LDM) 方法。
  • Eviews估計方法匯總
    使用White異方差一致協方差或Newey-West HAC異方差一致協方差估計不會改變參數的點估計,只改變參數的估計標準差。White協方差矩陣假設被估計方程的殘差是序列不相關的,Newey-West協方差矩陣則提出了一個更一般的估計量,在有未知形式的異方差和自相關存在時仍保持一致。
  • 基於DMFT的LFM信號參數估計
    在離散匹配傅立葉變換的基礎上對算法進行改進,並利用改進後的算法分別對單分量和多分量線性調頻信號進行仿真,仿真結果表明離散匹配傅立葉變換能夠在低信噪比情況下比較準確地估計出線性調頻信號的參數,不存在交叉項問題。離散匹配傅立葉變換是一種針對線性調頻信號有效的參數估計方法。
  • 質量專業輔導:理論與實務之參數估計(1)
    一、內容提要:  1、點估計的概念  2、點估計的優良性標準  3、矩法估計  4、正態總體參數的估計  5、區間估計的概念  6、正態總體參數的置信區間  7、比例P的置信區間  >二、考試大綱  1.熟悉點估計的概念  2.掌握矩法估計方法  3.熟悉點估計優良性的標準  4.熟悉二項分布、泊松分布、指數分布、正態分布參數的點估計  5.熟悉區間估計 (包括置信水平、且信區間)的概念  6.熟悉正態總體均值、方差和標準差的置信區間的求法  7.了解比率p的置信區間
  • 最大似然法估計二項式分布參數
    ,求解指數分布參數。今天我們再來看看最大似然法如何求解二項式分布參數。1.二項式分布與似然值估計公式如在人們對兩種口味飲料無偏好時,即人們喜歡香橙口味的概率p=0.5,喜歡葡萄口味的概率p=0.5,那麼7個人中4個人喜歡香橙口味的概率為0.273。計算公式如下:
  • 六西格瑪系列14-分析-點估計和區間估計
    用於估計未知參數的統計量稱為點估計量 ,簡稱點估計 ,或估計。在正態分布中 ,均值 μ、方差 σ2 、標準差 σ 等都被稱為總體的參數。實際問題中,這些參數都是未知的 ,常常需要選用適當的統計量作為未知參數的估計。
  • 最大似然估計
    的值。如何估計參數  的最可能的值,也就是說參數的選擇會使得這個採樣的概率最大化。 的最大似然估計。Remark. 最大似然函數不一定是唯一的,甚至不一定是存在的。(二)基本算法求解最大似然函數估計值的一般步驟:(1)定義似然函數;(2)對似然函數求導數,或者說對似然函數的對數求導數,目的都是為了更加方便地計算一階導數;(3)令一階導數等於零,得到關於參數
  • 18種Eviews方程參數估計方法匯總​
    BREAKLS帶斷點的最小二乘分析方法基本普通最小二乘法假設模型的參數不隨觀測值的變化而變化。儘管這種假設。結構的變化,以及樣本區間參數的變化 ,在應用時間序列分析中起著重要的作用。因此,有大量的研究針對回歸方程中參數結構變動的問題。EViews 8提出了結構變動的線性回歸估計工具。
  • 利用深度學習估計再分析數據集中的大氣重力波參數
    在本研究中,根據大尺度的低層(1-9km)大氣流動、溫度和溼度,利用深度學習獲得了在低層平流層(約18km)傳播動量巨大的中層大氣(10-100km)的細尺度軌道重力波的物理參數。通過利用29年的大氣再分析數據集訓練卷積神經網絡,在合理的計算成本下,將大尺度的輸入數據很好地降尺度為細尺度的重力波參數。重力波在推動和維持全球環流方面發揮著重要作用。
  • 論文推薦| 孟令奎:結合先驗概率估計的GF-3影像水體概率估計方法
    水體分布先驗概率是水體概率估計方法中的一個重要參數。在先驗概率估計方面,現有的概率估計方法[11, 17]將先驗概率默認置為0.5,這會使推導出的地物後向散射係數統計模型不夠準確,降低概率估計結果的精度。針對先驗概率估計不充分的問題,本文提出了改進的水體概率估計方法,藉助k-means聚類分析分割影像的結果估計先驗概率,並利用這一先驗概率估計值優化了後向散射係數分布參數估計方法。
  • 回歸算法及SOC估計實例
    在鋰電池SOC估計中,開路電壓估計SOC的方法,就是一種典型的回歸算法應用形式。詳細過程在本文最後一部分說明。1 什麼是回歸算法簡單的理解回歸,就是找到模型函數中未知係數的方法。我們常常會遇到這樣的情形,一個系統的輸入變量與輸出變量之間,關係比較複雜,不存在現成的理論公式描述這種關係。
  • 蒙特卡洛梯度估計方法(MCGE)簡述
    小方差,當幾個估計方法都是無偏估計時,我們通常會選擇方差較小的 MCE,因為更小方差的 MCE 會估計地更準,從而使得優化地效率更高、準確性更好。4. 可計算性,很多機器學習問題都是高維問題,如何提高 MCE 的可計算性,比如:減少採樣、提高並行能力等變得十分重要。如圖 1 所示,隨機優化問題通常包含兩個過程,一是仿真過程,輸入優化變量,獲得響應值 F(θ),然後計算出
  • LTE信道估計擴展
    該函數接受以下參數作為輸入:通過導頻(hp)計算的有限信道響應集;與資源網格維度相關的參數,包括資源塊(Nrb)的數量、每個資源塊中的子載波數(Nrb_sc)和每個插槽的OFDM符號數(Ndl_symb)以及其他兩個參數;指定CSR信號相對於資源塊(邊緣)邊緣的位置的向量,以及選擇將響應擴展到整個網格(模式)的算法。
  • 科研人員提出精確估計光度函數方法
    該項研究基於現代統計學中的核密度估計原理,提出了一種精確估計光度函數的普適方法,它對於統計研究星系、活動星系核、伽馬暴等河外天體的演化性質有重要價值。 光度函數是一個非常基本的統計量,它反映宇宙中某類天體的數密度隨紅移和光度(或星等)的變化情況。準確地確定各類天體的光度函數及其演化一直是天文學中的重要課題。估計光度函數的方法主要分為參數方法和非參數方法。
  • [理論+SPSS實戰] 點估計與區間估計詳細解析+把論文寫在抗擊疫情的第一線
    正文:點估計點估計(point estimation)是用樣本統計量來估計總體參數,因為樣本統計量為數軸上某一點值,估計的結果也以一個點的數值表示,所以稱為點估計。如利用樣本平均數作為總體平均數μ的估計數,用樣本方差直接作為總體方差的估計值。
  • 怎樣估計鋰電池剩餘電量SOC
    荷電狀態又叫剩餘電量,SOC,State of Charge,是反應電池包內當前電量佔總體可用容量百分比的一個參數。駕駛員根據滿電狀態總的裡程數,可以推斷出當前電量的續航能力,也有車型直接顯示續航距離。電量估計不準確的電動汽車,往往給車主帶來一些困擾。電量跳變,即將停車的時候,掃了一眼電量,還剩下50%,估計回程勉強夠用了。
  • 基於MAP-MRF的視差估計
    日益增長的數據量,同時內部數據還受到諸如光照變化、遮擋等不可控環境因素的影響都對深度圖估計的效率、精度都提出了挑戰。參考影像的深度估計可以轉化為立體像對的視差估計,傳統方法利用稠密匹配的算法進行快速特徵匹配,例如半全局匹配算法,而往往在收到遮擋的影響而效果不佳。而深度學習方法在立體視覺中的成功應用,使得高效率、高精度的基於神經網絡的端到端三維重建成為可能。
  • 技術|基於改進擴展卡爾曼濾波的鋰電池SOC估計
    本文提出了一種改進的擴展卡爾曼濾波算法,先利用遺忘因子最小二乘法估計電池模型參數,再將估計的模型參數與電池電壓、電流進行局部加權回歸(Lowess)擬合,用擬合的函數計算每組電壓、電流所對應的模型參數,以此減小模型參數變化帶來的影響。