【原創】參數估計與假設檢驗(一)-- 參數估計之點估計

例如，在前面文章中，已經分析了某個湖裡種類為「Bream」的魚類的寬度樣本數據，通過樣本數據的計算得知，Bream的寬度的樣本均值為15.18，樣本標準差為1.96。那麼，這裡的樣本均值15.18就可以作為整個湖中所有Bream魚的寬度均值的一個估計。

在統計中，進行點估計的方法有多種，例如矩估計法、最小二乘法、極大似然法，其中極大似然估計又有很多改進的形式，比如限制極大似然等。SAS/STAT的PROC步中允許用戶在進行參數估計的時候指定不同的參數估計方法。

點估計的矩估計法是由皮爾遜（Pearson）提出的，它直觀、簡便，是用樣本矩作為總體相關矩的估計，特別是在不知道總體分布的情況下，也可以對總體數學期望和方差進行估計。只要知道總體隨機變量的一些矩存在，就可以做相應的矩估計。但是，當總體的參數不能表示成矩的函數時，就不能用矩估計；此外，矩估計常常沒有利用總體分布函數所提供的信息，因此也很難保證它有優良的性質。

極大似然估計的基本思想是，以使樣本的出現獲得最大概率的參數值作為未知參數的估計值。例如，如果某事件發生的概率為p，且p只能取0.01或0.9，現在，在連續兩次實驗中該事件都發生了，那麼顯然認為p=0.9是合理的。又如，兩人向同一目標各發射一槍，一人擊中目標，另一人沒擊中目標，認為擊中目標者比沒有擊中目標者的射擊技術好也是合理的。極大似然法可以簡單的理解為在所有可能的選擇中選擇「看起來最像的」的值作為參數的估計，是參數估計用得最多的方法，最早是由高斯在1821年提出的，但現在一般將其歸功於R.A.Fisher，因為Fisher在1922年再次提出了這種想法，並證明了它的一些性質，從而使得極大似然法得到了廣泛應用。

既然對於一個未知參數，可以提出不同的估計量，那麼自然也就會涉及比較估計量好壞的問題。這樣一來，就需要給出評定估計量好壞的標準了。無偏性、有效性和相合性是衡量一個參數估計好壞的三個基本標準。

從理論上講，當一個估計量的數學期望等於被估計參數的真實值時，我們說，這個估計量是無偏的；簡單地講，一個無偏的估計量是指，當反覆抽取樣本的次數足夠大時，由這些樣本計算出來的該估計量的均值可以無限接近被估計參數的真實值。無偏估計的實際意義就說無系統誤差。