編輯導語:不論在什麼崗位,都要懂得本崗位的基礎知識,打牢基礎後面才能穩步發展;數據分析也是如此,數據分析必須要掌握統計學的基礎知識;本文是作者分享的關於統計學入門基礎的知識,我們一起來學習一下吧。
要做好數據分析,除了自身技術硬以及數據思維靈活外,還得學會必備的統計學基礎知識!
因此,統計學是數據分析必須掌握的基礎知識,即通過搜索、整理、分析、描述數據等手段,以達到推斷所測對象的本質,甚至預測對象未來的一門綜合性科學。
統計學用到了大量的數學及其它學科的專業知識,其應用範圍幾乎覆蓋了社會科學和自然科學的各個領域,而在數據量極大的網際網路領域也不例外;因此紮實的統計學基礎是一個優秀的數據人必備的技能。
但是,統計學的知識包括了圖形信息化、數據的集中趨勢、概率計算、排列組合、連續型概率分布、離散型概率分布、假設檢驗、相關和回歸等知識;對於具體的知識點,本文就不一一介紹了,感興趣的同學請參考《深入淺出統計學》、《統計學:從數據到結論》等等專業書籍。
統計學分為描述性統計學和推斷性統計學。
一、描述性統計
定義:使用特定的數字或圖表來體現數據的集中程度和離散程度。
1. 集中趨勢
集中趨勢集中趨勢是指一組數據所趨向的中心數值,用到的指標有:算數均數、幾何均數、中位數。
算數均數:即為均數,用以反映一組呈對稱分布的變量值在數量上的平均水平。幾何均數:常用以反映一組經對數轉換後呈對稱分布的變量值在數量上的平均水平。中位數:適用於偏態分布資料和一端或兩端無確切的數值的資料,是第50百分位數。百分位數:為一界值,用以確定醫學參考值範圍。
2. 離散趨勢
離散趨勢是反映數據的變異程度,常用指標有極差、四分位間距、方差與標準差、變異係數。
極差:為一組數據的最大值和最小值之差,但極差不能反映所有數據的變異大小,且極易受樣本含量的影響。常用以描述偏態分布。四分位數間距:它是由第3四分位數與第1四分位數相減得到,常和中位數一起描述偏態分布資料的分布。方差與標準差:反映一組數據的平均離散水平,消除了樣本含量的影響,常和均數一起用來描述一組數據中的離散和集中趨勢。變異係數:也稱作異常值,多用於觀察指標單位不同時,可消除因單位不同而不能進行比較的困難。例如箱線圖就可以很好反映其中部分重點統計值:
3. 抽樣方法和中心極限定理
抽樣方法:
我們在做產品檢驗的時候,不可能把所有的產品都打開檢驗一遍看是否合格,我們只能從全部的產品中抽取部分樣本進行檢驗,依據樣本的質量估算整體的產品質量,這個就是抽樣,抽樣的定義是為了檢驗整體從整體中抽離部分樣本進行檢測,以樣本的檢測結果進行整體質量的估算的方法。
抽樣有多種方法,針對不同的目的和場景,需要運用不同的方法進行檢測,常見的抽樣方法有:
1)概率抽樣
簡單隨機抽樣;分層抽樣;整群抽樣(先將總體中若干個單位合併為組,這樣的組稱為群,再直接對群進行抽樣);系統抽樣(將總體中所有單位按一定順序排列,在規定的範圍內隨機抽取一個單位作為初始單位,然後再按事先指定好的規則確定其他樣本單位);階段抽樣(先抽群,然後在群內進行二階段抽樣)。2)非概率抽樣
方便抽樣(依據方便原則自行確定);判斷抽樣(依據專業知識進行判斷);自願樣本(調查者自願參加);滾雪球樣本(類似樹結構);配額樣本(類似分層抽樣);3)兩者抽樣方法之間的比較:
非概率抽樣適合探索性的研究,為更深入的數據分析做準備,特點是操作簡便、時效快、成本低;而且對於抽樣中的統計專業技術要求不是很高;概率抽樣的技術含量更高,調查成本更高,統計學專業知識要求更高,適合調查目的為研究對象總體,得到總體參數的置信區間。
4)中心極限定理:
若給定樣本量的所有樣本來自任意整體,則樣本均值的抽樣分布近似服從正態分布,且樣本量越大,近似性越強。
以30為界限,當樣本量大於30的時候符合中心極限定理,樣本服從正態分布;當樣本量小於30的時候,總體近似正態分布時,此時樣本服從t分布。樣本的分布形態決定了我們在假設檢驗中採用什麼方法去檢驗它。
二、推斷性統計
定義:根據樣本數據推斷總體的數據特徵。
1. 基本步驟
產品質檢的時候用的幾乎都是抽樣方法的推斷性統計,推斷性的過程就是一種假設檢驗,在做推斷性統計的時候我們需要明確幾點:
明確後可以對應我們假設檢驗的幾個步驟了:
提出原假設(H0)和備選假設(H1),確定顯著性水平(原假設為正確時,人們把它拒絕了的概率);選擇檢驗方法,確定檢驗統計量;確定P值,作出統計推理;假設對於某一個器件,國家標準要求:平均值要低於20。
某公司製造出10個器件,相關數值如下:15.6、16.2、22.5、20.5、16.4、19.4、16.6、17.9、12.7、13.9。
運用假設檢驗判斷該公司器件是否符合國家標準:
1)設假設:
2)總體為正態分布,方差未知,樣本為小樣本,因此採用T檢驗。
3)計算檢驗統計量:樣本平均值17.17,樣本標準差2.98,檢驗統計量為 (17.17-20)/(2.98/√10)=-3.0031
4)當置信度選擇97.5%,自由度為9,此時為單尾檢驗,臨界值為2.262。
5)由於-3.0031<-2.262,拒絕原假設,因此接受備擇假設,該器件滿足國家標準。
2. 假設檢驗類型
單樣本檢驗:檢驗單個樣本的平均值是否等於目標值;相關配對檢驗:檢驗相關或配對觀測之差的平均值是否等於目標值;獨立雙樣本檢驗:檢驗兩個獨立樣本的平均值之差是否等於目標值;
3. 統計檢驗方法
Z檢驗:一般用於大樣本(即樣本容量大於30)平均值差異性檢驗的方法。它是用標準正態分布的理論來推斷差異發生的概率,從而比較兩個平均數>平均數的差異是否顯著。
T檢驗:用於樣本含量較小(例如n<30),總體標準差σ未知的正態分布樣本。
F檢驗:F檢驗又叫方差齊性檢驗。在兩樣本t檢驗中要用到F檢驗。檢驗兩個樣本的方差是否有顯著性差異 這是選擇何種T檢驗(等方差雙樣本檢驗,異方差雙樣本檢驗)的前提條件。
(T檢驗用來檢測數據的準確度,檢測系統誤差 ;F檢驗用來檢測數據的精密度,檢測偶然誤差。)
卡方檢驗:主要用於檢驗兩個或兩個以上樣本率或構成比之間差別的顯著性,也可檢驗兩類事物之間是否存在一定的關係。
4. 雙尾檢測和單尾檢測
這個和我們提出的原假設相關,例如我們檢測的原假設:器件平均值>=20。
我們需要拒絕的假設就是器件平均值<20,此時就是單尾檢驗;如果我們的原假設是器件平均值>20,則我們需要拒絕的假設就是器件平均值<20和器件平均值=20,此時就是雙尾檢測。
5. 置信區間和置信水平
在統計學中,幾乎都是依據樣本來推斷總體的情況的,但在推斷的過程中,我們會遇到各種各樣的阻礙和幹擾;所以我們推斷出的結果不是一個切確的數字,而是在某個合理的區間內,這個範圍就是置信區間。
但整體中所有的數據都在這個範圍也不現實,我們只需要絕大多數出現在置信區間就可以了,這裡的絕大多數就是置信水平的概念,通常情況我們的置信水平是95%。
置信區間[a,b]的計算方法為:(z分數:由置信水平決定,查表得。)
a = 樣本均值 – z*標準誤差,b = 樣本均值 + z*標準誤差
志在必得。
不學自知,不問。自曉,古今行事未之有也!
就數據分析而言,我們通過統計學可以用更富有信息驅動力和針對性的方式對數據進行操作;更深入、更細緻地觀察數據是如何進行精確組織的,並且基於這種組織結構確定數據分析的方法,來獲取更多的信息。
本文由 @木兮擎天@ 原創發布於人人都是產品經理。未經許可,禁止轉載
題圖來自Unsplash,基於CC0協議