【乾貨】統計學最常用的「數據分析方法」清單(上)

2021-02-13 數據分析1480

描述統計是通過圖表或數學方法,對數據資料進行整理、分析,並對數據的分布狀態、數字特徵和隨機變量之間關係進行估計和描述的方法。描述統計分為集中趨勢分析離中趨勢分析相關分析三大部分。

1. 集中趨勢分析

集中趨勢分析主要靠平均數、中數、眾數等統計指標來表示數據的集中趨勢。例如被試的平均成績多少?是正偏分布還是負偏分布?

2. 離中趨勢分析

離中趨勢分析主要靠全距、四分差、平均差、方差(協方差:用來度量兩個隨機變量關係的統計量)、標準差等統計指標來研究數據的離中趨勢。例如,我們想知道兩個教學班的語文成績中,哪個班級內的成績分布更分散,就可以用兩個班級的四分差或百分點來比較。

3. 相關分析

相關分析探討數據之間是否具有統計學上的關聯性。這種關係既包括兩個數據之間的單一相關關係——如年齡與個人領域空間之間的關係,也包括多個數據之間的多重相關關係——如年齡、抑鬱症發生率、個人領域空間之間的關係;既包括A大B就大(小),A小B就小(大)的直線相關關係,也可以是複雜相關關係(A=Y-B*X);既可以是A、B變量同時增大這種正相關關係,也可以是A變量增大時B變量減小這種負相關,還包括兩變量共同變化的緊密程度——即相關係數

實際上,相關關係唯一不研究的數據關係,就是數據協同變化的內在根據——即因果關係。獲得相關係數有什麼用呢?簡而言之,有了相關係數,就可以根據回歸方程,進行A變量到B變量的估算,這就是所謂的回歸分析,因此,相關分析是一種完整的統計研究方法,它貫穿於提出假設,數據研究,數據分析,數據研究的始終。

例如,我們想知道對監獄情景進行什麼改造,可以降低囚徒的暴力傾向。我們就需要將不同的囚舍顏色基調、囚舍綠化程度、囚室人口密度、放風時間、探視時間進行排列組合,然後讓每個囚室一種實驗處理,然後用因素分析法找出與囚徒暴力傾向的相關係數最高的因素。假定這一因素為囚室人口密度,我們又要將被試隨機分入不同人口密度的十幾個囚室中生活,繼而得到人口密度和暴力傾向兩組變量(即我們討論過的A、B兩列變量)。然後,我們將人口密度排入X軸,將暴力傾向分排入Y軸,獲得了一個很有價值的圖表,當某典獄長想知道,某囚舍擴建到N人/間囚室,暴力傾向能降低多少。我們可以當前人口密度和改建後人口密度帶入相應的回歸方程,算出擴建前的預期暴力傾向和擴建後的預期暴力傾向,兩數據之差即典獄長想知道的結果。

4. 推論統計

推論統計是統計學乃至於心理統計學中較為年輕的一部分內容。它以統計結果為依據,來證明或推翻某個命題。具體來說,就是通過分析樣本與樣本分布的差異,來估算樣本與總體、同一樣本的前後測成績差異,樣本與樣本的成績差距、總體與總體的成績差距是否具有顯著性差異。

例如,我們想研究教育背景是否會影響人的智力測驗成績。可以找100名24歲大學畢業生和100名24歲初中畢業生。採集他們的一些智力測驗成績。用推論統計方法進行數據處理,最後會得出類似這樣兒的結論:「研究發現,大學畢業生組的成績顯著高於初中畢業生組的成績,二者在0.01水平上具有顯著性差異,說明大學畢業生的一些智力測驗成績優於中學畢業生組。」

5. 正態性檢驗

很多統計方法都要求數值服從或近似服從正態分布,所以之前需要進行正態性檢驗。

常用方法:非參數檢驗的K-量檢驗、P-P圖、Q-Q圖、W檢驗、動差法。

參數檢驗是在已知總體分布的條件下(一股要求總體服從正態分布)對一些主要的參數(如均值、百分數、方差、相關係數等)進行的檢驗。

單樣本t檢驗:推斷該樣本來自的總體均數μ與已知的某一總體均數μ0 (常為理論值或標準值)有無差別

配對樣本t檢驗:當總體均數未知時,且兩個樣本可以配對,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似

兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用

非參數檢驗:

非參數檢驗則不考慮總體分布是否已知,常常也不是針對總體參數,而是針對總體的某些一股性假設(如總體分布的位罝是否相同,總體分布是否正態)進行檢驗。

適用情況:順序類型的數據資料,這類數據的分布形態一般是未知的。A 雖然是連續數據,但總體分布形態未知或者非正態;B 體分布雖然正態,數據也是連續類型,但樣本容量極小,如10以下

主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、遊程檢驗、K-量檢驗等。

即可靠性,它是指採用同樣的方法對同一對象重複測量時所得結果的一致性程度。信度指標多以相關係數表示,大致可分為三類:穩定係數(跨時間的一致性),等值係數(跨形式的一致性)和內在一致性係數(跨項目的一致性)。信度分析的方法主要有以下四種:重測信度法、複本信度法、折半信度法、α信度係數法。

方法如下 :

1. 重測信度法編輯

這一方法是用同樣的問卷對同一組被調查者間隔一定時間重複施測,計算兩次施測結果的相關係數。顯然,重測信度屬於穩定係數。重測信度法特別適用於事實式問卷,如性別、出生年月等在兩次施測中不應有任何差異,大多數被調查者的興趣、愛好、習慣等在短時間內也不會有十分明顯的變化。如果沒有突發事件導致被調查者的態度、意見突變,這種方法也適用於態度、意見式問卷。由於重測信度法需要對同一樣本試測兩次,被調查者容易受到各種事件、活動和他人的影響,而且間隔時間長短也有一定限制,因此在實施中有一定困難。

2. 複本信度法編輯

讓同一組被調查者一次填答兩份問卷複本,計算兩個複本的相關係數。複本信度屬於等值係數。複本信度法要求兩個複本除表述方式不同外,在內容、格式、難度和對應題項的提問方向等方面要完全一致,而在實際調查中,很難使調查問卷達到這種要求,因此採用這種方法者較少。

3. 折半信度法編輯

折半信度法是將調查項目分為兩半,計算兩半得分的相關係數,進而估計整個量表的信度。折半信度屬於內在一致性係數,測量的是兩半題項得分間的一致性。這種方法一般不適用於事實式問卷(如年齡與性別無法相比),常用於態度、意見式問卷的信度分析。

在問卷調查中,態度測量最常見的形式是5級李克特(Likert)量表(李克特量表(Likert scale)是屬評分加總式量表最常用的一種,屬同一構念的這些項目是用加總方式來計分,單獨或個別項目是無意義的。它是由美國社會心理學家李克特於1932年在原有的總加量表基礎上改進而成的。該量表由一組陳述組成,每一陳述有"非常同意"、"同意"、"不一定"、"不同意"、"非常不同意"五種回答,分別記為5、4、3、2、1,每個被調查者的態度總分就是他對各道題的回答所得分數的加總,這一總分可說明他的態度強弱或他在這一量表上的不同狀態。)。進行折半信度分析時,如果量表中含有反意題項,應先將反意題項的得分作逆向處理,以保證各題項得分方向的一致性,然後將全部題項按奇偶或前後分為儘可能相等的兩半,計算二者的相關係數(rhh,即半個量表的信度係數),最後用斯皮爾曼-布朗(Spearman-Brown)公式:求出整個量表的信度係數(ru)。

4. α信度係數法

α信度係數是目前最常用的信度係數,其公式為:α=(k/(k-1))*(1-(∑Si^2)/ST^2)。其中,K為量表中題項的總數, Si^2為第i題得分的題內方差, ST^2為全部題項總得分的方差。從公式中可以看出,α係數評價的是量表中各題項得分間的一致性,屬於內在一致性係數。這種方法適用於態度、意見式問卷(量表)的信度分析。

總量表的信度係數最好在0.8以上,0.7-0.8之間可以接受;分量表的信度係數最好在0.7以上,0.6-0.7還可以接受。Cronbach 's alpha係數如果在0.6以下就要考慮重新編問卷。用於檢査測量的可信度,例如調查問卷的真實性。

分類有2種:

列聯表是觀測數據按兩個或更多屬性(定性變量)分類時所列出的頻數表。

1. 簡介

若總體中的個體可按兩個屬性A、B分類,A有r個等級A1,A2,…,Ar,B有c個等級B1,B2,…,Bc,從總體中抽取大小為n的樣本,設其中有nij個個體的屬性屬於等級Ai和Bj,nij稱為頻數,將r×c個nij排列為一個r行c列的二維列聯表,簡稱r×c表。若所考慮的屬性多於兩個,也可按類似的方式作出列聯表,稱為多維列聯表。

列聯表又稱交互分類表,所謂交互分類,是指同時依據兩個變量的值,將所研究的個案分類。交互分類的目的是將兩變量分組,然後比較各組的分布狀況,以尋找變量間的關係。用於分析離散變量或定型變量之間是否存在相關。列聯表分析的基本問題是,判明所考察的各屬性之間有無關聯,即是否獨立。

如在前例中,問題是:一個人是否色盲與其性別是否有關?在r×с表中,若以pi、pj和pij分別表示總體中的個體屬於等級Ai,屬於等級Bj和同時屬於Ai、Bj的概率(pi,pj稱邊緣概率,pij稱格概率),「A、B兩屬性無關聯」的假設可以表述為H0:pij=pi·pj,(i=1,2,…,r;j=1,2,…,с),未知參數pij、pi、pj的最大似然估計(見點估計)分別為行和及列和(統稱邊緣和)為樣本大小。根據K.皮爾森(1904)的擬合優度檢驗或似然比檢驗(見假設檢驗),當h0成立,且一切pi>0和pj>0時,統計量的漸近分布是自由度為(r-1)(с-1) 的Ⅹ分布,式中Eij=(ni·nj)/n稱為期望頻數。當n足夠大,且表中各格的Eij都不太小時,可以據此對h0作檢驗:若Ⅹ值足夠大,就拒絕假設h0,即認為A與B有關聯。在前面的色覺問題中,曾按此檢驗,判定出性別與色覺之間存在某種關聯。

2. 注意點

若樣本大小n不很大,則上述基於漸近分布的方法就不適用。對此,在四格表情形,R.A.費希爾(1935)提出了一種適用於所有n的精確檢驗法。其思想是在固定各邊緣和的條件下,根據超幾何分布(見概率分布),可以計算觀測頻數出現任意一種特定排列的條件概率。把實際出現的觀測頻數排列,以及比它呈現更多關聯跡象的所有可能排列的條件概率都算出來並相加,若所得結果小於給定的顯著性水平,則判定所考慮的兩個屬性存在關聯,從而拒絕h0。

對於二維表,可進行卡方檢驗,對於三維表,可作Mentel-Hanszel分層分析。列聯表分析還包括配對計數資料的卡方檢驗、行列均為順序變量的相關檢驗。

研究現象之間是否存在某種依存關係,對具體有依存關係的現象探討相關方向及相關程度。

1. 單相關

兩個因素之間的相關關係叫單相關,即研究時只涉及一個自變量和一個因變量

2. 復相關

三個或三個以上因素的相關關係叫復相關,即研究時涉及兩個或兩個以上的自變量和因變量相關

3. 偏相關

在某一現象與多種現象相關的場合,當假定其他變量不變時,其中兩個變量之間的相關關係稱為偏相關。

使用條件:各樣本須是相互獨立的隨機樣本;各樣本來自正態分布總體;各總體方差相等。有以下幾種分類:

1. 一元線性回歸分析

只有一個自變量X與因變量Y有關,X與Y都必須是連續型變量,因變量y或其殘差必須服從正態分布。

2. 多元線性回歸分析

使用條件:分析多個自變量與因變量Y的關係,X與Y都必須是連續型變量,因變量y或其殘差必須服從正態分布 。

變呈篩選方式選擇最優回歸方程的變裡篩選法包括全橫型法(CP法)、逐步回歸法,向前引入法和向後剔除法

橫型診斷方法:

共線性診斷方式:容忍度、方差擴大因子法(又稱膨脹係數VIF)、特徵根判定法、條件指針CI、方差比例

處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

3. Logistic回歸分析

線性回歸模型要求因變量是連續的正態分布變裡,且自變量和因變量呈線性關係,而Logistic回歸模型對因變量的分布沒有要求,一般用於因變量是離散時的情況。

分類:

Logistic回歸模型有條件與非條件之分,條件Logistic回歸模型和非條件Logistic回歸模型的區別在於參數的估計是否用到了條件概率。

4. 其他回歸方法

非線性回歸、有序回歸、Probit回歸、加權回歸等

相關焦點

  • 【乾貨!】統計學最常用的「數據分析方法」清單(下)
    進行分類以距離為判別準則來分類,即樣本與哪個類的距離最短就分到哪一類,適用於兩類判別;以概率為判別準則來分類,即樣本屬於哪一類的概率最大就分到哪一類,適用於多類判別。BAYES判別分析法比FISHER判別分析法更加完善和先進,它不僅能解決多類判別分析,而且分析時考慮了數據的分布狀態,所以一般較多使用。是一種統計方法。
  • 統計學最常用的「數據分析方法」清單(下)
    本文是<統計學最常用的數據分析方法清單>的下篇,沒有看過上篇的小夥伴請點擊【D】統計學最常用的「數據分析方法」清單(上)複習內容哦!設法將原來變量重新組合成一組新的互相無關的幾個綜合變量,同時根據實際需要從中可以取出幾個較少的綜合變量儘可能多地反映原來變量的信息的統計方法叫做主成分分析或稱主分量分析,也是數學上用來降維的一種方法。2.
  • 統計學最常用的「數據分析方法」清單(一)
    經常會有朋友問到一個朋友,數據分析常用的分析方法有哪些,我需要學習哪個等等之類的問題,今天數據分析精選給大家整理了十六種常用的數據分析方法,供大家參考學習。  一、描述統計  描述統計是通過圖表或數學方法,對數據資料進行整理、分析,並對數據的分布狀態、數字特徵和隨機變量之間關係進行估計和描述的方法。描述統計分為集中趨勢分析和離中趨勢分析和相關分析三大部分。  1. 集中趨勢分析  集中趨勢分析主要靠平均數、中數、眾數等統計指標來表示數據的集中趨勢。
  • 統計學最常用的「數據分析方法」清單(上)
    相關分析相關分析探討數據之間是否具有統計學上的關聯性。實際上,相關關係唯一不研究的數據關係,就是數據協同變化的內在根據——即因果關係。獲得相關係數有什麼用呢?簡而言之,有了相關係數,就可以根據回歸方程,進行A變量到B變量的估算,這就是所謂的回歸分析,因此,相關分析是一種完整的統計研究方法,它貫穿於提出假設,數據研究,數據分析,數據研究的始終。
  • 「數據分析」的理念、流程、方法、工具
    RFM模型分群法 傳統行業對用戶分類最常用的方法是RFM模型,RFM分別是三個英文單詞的首字母。R(Recency)代表消費新鮮度。 五、數據分析模型 很多時候我們聽到「模型」兩個字都會覺得高深莫測,當然也有不少人會對這種「學院派」的做法嗤之以鼻。
  • 利用 SPSS 這樣做統計分析,想拿低分 SCI 都難!
    醫學科研者最常遇到關於統計方法和統計軟體操作使用的問題,有些曾抱怨:「統計軟體那麼多,到底選擇哪個軟體, SPSS 好用麼,怎麼用?」
  • 統計學最常用的「數據分析方法」清單(二)
    設法將原來變量重新組合成一組新的互相無關的幾個綜合變量,同時根據實際需要從中可以取出幾個較少的綜合變量儘可能多地反映原來變量的信息的統計方法叫做主成分分析或稱主分量分析,也是數學上用來降維的一種方法。 2.
  • 「Why-What-How」數據分析方法
    如何站在業務方的角度思考問題呢,總結起來就是八個字「憂其所慮,給其所欲」主要是在這以下幾個環節:在溝通上,確定業務方想要分析什麼,提出更合理專業的衡量和分析方式,同時做好節點同步,切忌一條路走到黑。在分析業務需求上,跟很多產品需求分析方法論是類似的,需要明確所要數據背後的含義。
  • 五種常用大數據分析方法
    在數據分析中,常用到的分3類:時間對比、空間對比以及標準對比。  時間對比:  最常用的就是同比和環比,通過時間周期的數據對比,了解目前數據水平的高低  同比:某個周期的時段與上一個周期的相同時段比較,如今年的6月比去年的6月,本周的周一比上周的周一等等。
  • R 語言之數據分析「Resampling」
    在總結回歸分析和方差分析的時候 ④R語言之數據分析「初章」,我總是會在模型的建立之前提到「統計假設」,在模型建立之後進行「假設檢驗」,原因想必大家都能理解,就是因為這些「統計假設」是我們模型建立思想的基礎,是支撐我們模型正確性的「必要條件」。但是,不可否認的是,這些「必要條件」最終會成為我們「數據分析」的局限,讓我們對「不滿足條件的數據集」束手無策。
  • 「乾貨精選」數據分析與SPSS全套視頻課程資料,大數據時代必備工具!
    精選乾貨本期精選數據分析與SPSS視頻課程資料,一共12個課程。課程內容包括:1 基礎數據分析知識,包括一些概率統計裡的概念、術語,和基本統計量的計算方法等。2 一些常用的數據分析和數據挖掘算法,以及有關的各種領域裡的實際應用案例分析3 流行數據分析軟體SPSS操作和使用方法後臺回復 200310獲得領取方式!
  • 乾貨|統計學常用的數據分析方法大總結
    描述統計描述統計是通過圖表或數學方法,對數據資料進行整理、分析,並對數據的分布狀態、數字特徵和隨機變量之間關係進行估計和描述的方法。描述統計分為集中趨勢分析和離中趨勢分析和相關分析三大部分。用推論統計方法進行數據處理,最後會得出類似這樣兒的結論:「研究發現,大學畢業生組的成績顯著高於初中畢業生組的成績,二者在0.01水平上具有顯著性差異,說明大學畢業生的一些智力測驗成績優於中學畢業生組。」△正態性檢驗很多統計方法都要求數值服從或近似服從正態分布,所以之前需要進行正態性檢驗。
  • 學會一個 SPSS 軟體,輕鬆搞定臨床統計方法實操
    統計指標搞不清楚,屢次投稿屢被審稿人質疑,被拒!操作簡單,無需編程,功能強大,數據處立、統計分析、圖表製作都可以做,是非常適合統計初學者的統計軟體!;2.掌握如果利用 SPSS 構建資料庫,以及掌握 SPSS 進行傾向性評分實戰技術;3.掌握各種統計分析在 SPSS 中的實際操作方法:包含統計描述分析、t 檢驗思想、5 種常見方差分析、三大類卡方檢驗、四大類非參數檢驗、簡單線性與多重線性、三種生存分析方法等;4.掌握
  • 「統計學」最常用的數據分析方法都在這了!Part.2
    主成分分析(Principal Component Analysis,PCA), 是一種統計方法。設法將原來變量重新組合成一組新的互相無關的幾個綜合變量,同時根據實際需要從中可以取出幾個較少的綜合變量儘可能多地反映原來變量的信息的統計方法叫做主成分分析或稱主分量分析,也是數學上用來降維的一種方法。2.
  • R 語言之數據分析高級方法「主成分分析」和「因子分析」
    本節主要總結「數據分析」的「主成分分析」和「因子分析」的思想。通過學習《 R 語言實戰 》關於這兩種方法的解釋,我們很容易理解這兩種方法其存在的意義。——降維。我們將要面對的數據實在是太大,變量實在太多,因此計算機所承受的壓力也會越來越大。信息過度複雜是多變量數據最大的挑戰之一,特別是在還要考慮變量間交互關係的時候,變量增加時交互關係的量是按階乘關係在往上漲的,所以降維在很多時候能夠起到減少大量工作量的作用,是數據分析很重要的一個思想。以上是「主成分分析」與「因子分析」聯繫,有共同的目的。
  • 菌群數據的統計和可視化方法
    然而微生物組數據分析過程複雜,分析工具眾多,也限制了研究者對該領域的探索。微生物組研究主要分為三步走,之前已經給大家講解了實驗設計與生信分析的方法(從樣本測序數據到生成物種和功能組成表),那麼接下來為大家介紹菌群測序數據下遊分析的統計和可視化方法,包括多樣性分析、物種組成分析、微生物差異分析、相關性分析、網絡分析、機器學習(構建疾病預測模型)、進化分析、來源分析以及常用可視化方法。
  • 統計|臨床試驗數據分析要點
    對於缺失值並沒有通用的處理辦法,但只要處理方法合理,特別是如果處理缺失值方法在試驗方案中預先寫明,則不會影響試驗的有效性。當缺失值數目較大時,要考慮分析結果對於處理缺失值方法的敏感程度。線外值(包括異常值)的統計學定義在某種程度上帶有隨意性。除了統計學判斷之外加上醫學判斷以鑑別一個線外值(包括異常值)是最可信的方法。
  • 【原創】常用醫學統計基本知識和統計方法
    隨著監管對統計要求的逐步提高,醫療器械從業者們在質量管理體系、質量控制或醫療器械臨床相關從業人員,有沒有經常被這樣質疑或挑戰?「應具有統計學意義」。本文從統計設計、數據收集、數據整理和數據分析,四個方面對常用醫學統計基本知識和統計方法進行分享,歡迎感興趣的朋友參與互動,探討。
  • 「數據分析」統計軟體包比較
    英語中的「統計」 (Statistics) 一詞來源於拉丁語status,是指各種現象的狀態或狀況。現今,統計一詞有三種涵義:(1) 統計資料,是反映大量現象的狀態和規律性的數字資料及有關文字說明;(2)統計工作,是關於搜集、整理、分析統計資料並進行推論以探求事物本質和規律性的活動;(3) 統計科學,是研究如何搜集、整理和分析研究大量現象的數量資料並推論其本質和規律性的理論和方法,如社會經濟統計學、數理統計學。下表比較了若干統計分析包的一般資料和技術資料。
  • 統計基礎概念及數據分析方法
    描述性統計:分析數據集中度和分散度推斷統計:通過樣本對整體情況作出推斷數據分析方法:聚類、回歸、分類及組件差異。描述數據的兩個關鍵點:數據的中心度,數據集中在哪個區域。常用均值,中位數和眾數來反映均值:也稱為平均數,所有數據除以數據條數,缺點,容易被極大極小值幹擾,難以反饋真實的數據情況。