SPSS超詳細操作:分層回歸(hierarchical multiple regression)

最大攜氧能力(maximal aerobic capacity, VO2max)是評價人體健康的關鍵指標，但因測量方法複雜，不易實現。某研究者擬通過一些方便、易得的指標建立受試者最大攜氧能力的預測模型。

目前，該研究者已知受試者的年齡和性別與最大攜氧能力有關，但這種關聯強度並不足以進行回歸模型的預測。因此，該研究者擬逐個增加體重(第3個變量)和心率(第4個變量)兩個變量，並判斷是否可以增強模型的預測能力。

本研究中，研究者共招募100位受試者，分別測量他們的最大攜氧能力(VO2max)，並收集年齡(age)、性別(gender)、體重(weight)和心率(heart_rate)變量信息，部分數據如下：

 

註：心率（heart_rate）測量的是受試者進行20分鐘低強度步行後的心率。

研究者擬判斷逐個增加自變量(weight和heart_rate)後對因變量(VO2max)預測模型的改變。針對這種情況，我們可以使用分層回歸分析(hierarchical multiple regression)，但需要先滿足以下8項假設：

那麼，進行分層回歸分析時，如何考慮和處理這8項假設呢？

3.1 假設1-2

假設1和假設2分別要求因變量是連續變量、自變量不少於2個。這與研究設計有關，需根據實際情況判斷。

3.2 假設3-8

為了檢驗假設3-8，我們需要在SPSS中運行分層回歸，並對結果進行一一分析。

(1) 點擊Analyze→Regression→Linear

出現下圖：

(2) 將因變量（VO2max）放入Dependent欄，再將自變量（age和gender）放入Independent欄：

解釋：因研究者已知性別、年齡與最大攜氧能力的關係，我們先把這兩個變量放入模型。

(3) 點擊Next，彈出下圖：

解釋：大家可能會注意到Independent(s)框中的標籤由-Block 1 of 1- 變為-Block 2 of 2-。這說明age和gender變量依舊存在於模型中，在- Block 2 of 2-中，大家可以點擊Previous查看。同時，Method欄應設置為「Enter」，一般是SPSS自動設置的；如果不是，也應人工設置為「Enter」。

(4) 將自變量(weight)放入Independent欄

解釋：放入weight變量是為了檢驗加入該變量後對age、gender-VO2max預測模型的影響。

(5) 點擊Next，彈出下圖：

解釋：大家可能會注意到Independent(s)框中的標籤由-Block 2 of 2- 變為-Block 3 of 3-。同樣地，age、gender和weight變量依舊存在於模型中，可以點擊Previous查看。Method欄也應設置為「Enter」，如果不是，改為「Enter」。

(6) 將自變量(heart_rate)放入Independent欄

解釋：放入heart_rate變量是為了檢驗加入該變量後對age、gender、weight-VO2max預測模型的影響。

(7) 點擊Statistics，彈出下圖：

(8) 在Regression Coefficient框內點選Confidence intervals，在Residuals框內點選Durbin-Watson和Casewise diagnosis，並在主對話框內點選R squared change、Descriptives、Part and partial correlations和Collinearity diagnosis

(9) 點擊Continue，回到主界面。

(10) 點擊Plots，彈出下圖：

(11)在Standardized Residual Plots對話框中點選Histogram和Normal probability,並點選Produce all partial plots

(12) 點擊Continue回到主對話框

(13) 點擊Save

(14) 在Predicted Values框內點選Unstandardized，在Distances框內點選Cook’s和Leverage values，在Residuals框內點選Studentized和Studentized deleted

(15) 點擊Continue→OK

經過這些操作，Variable View 和Data View對話框中會增加5個變量：

這5個變量分別是未標化預測值(unstandardized predicted values，PRE_1)，學生化殘差(studentized residuals，SRE_1)，學生化刪除殘差(studentized deleted residuals，SDR_1)，Cook距離(Cook's Distance values，COO_1)以及槓桿值(leverage values，LEV_1)。

根據這5個新增變量和其他結果，我們將逐一對假設3-8進行檢驗。

注意：分層回歸對假設3-8的檢驗過程與多重線性回歸基本一致，為避免重複講解，我們在本章節只介紹基本原理，詳細內容請參見多重線性回歸分析。

3.2.1  假設3：具有相互獨立的觀測值

觀測值之間相互獨立是分層回歸的基本假設之一，主要檢驗的是1st-order autocorrelation，即鄰近的觀測值（主要是殘差）之間沒有相關性。我們根據SPSS中的Durbin-Watson檢驗判斷該假設，如果不滿足，則需要運用其他模型，如時間序列模型等。

3.2.2 假設4：自變量和因變量之間存在線性關係

分層回歸不僅要求因變量與所有自變量存在線性關係，還要求因變量與每一個自變量之間存在線性關係。其中，我們主要通過繪製未標化預測值(PRE_1)和學生化殘差(SRE_1)的散點圖檢驗因變量與所有自變量之間的線性關係。

而為檢驗因變量與每一個自變量之間是否存在線性關係，我們則需要分別繪製每個自變量與因變量的散點圖。如果假設4不滿足，我們可以嘗試進行數據轉換或者其他統計方法。

3.2.3 假設5：等方差性

等方差性也可以通過學生化殘差(SRE_1)與未標化預測值(PRE_1)之間的散點圖進行檢驗。如果研究結果提示不滿足等方差性假設，我們也可以通過一些統計手段進行矯正，如對自變量進行轉換或採用加權最小二乘法回歸方程等。

3.2.4 假設6：不存在多重共線性

當回歸中存在2個或多個自變量高度相關時，就會出現多重共線。它不僅可影響自變量對因變量變異的解釋能力，還影響整個分層回歸模型的擬合。

為了檢驗假設6，我們主要關注相關係數(correlation coefficients)和容忍度/方差膨脹因子(Tolerance/VIF)兩類指標。一般來說，如果自變量之間的相關係數大於0.7，或者容忍度小於0.1，方差膨脹因子大於10，我們就會懷疑模型存在多重共線性。

3.2.5 假設7：不存在顯著的異常值

根據作用方式的不同，分層回歸的異常值主要分為離群值(outliers)、強槓桿點(leverage points)和強影響點(influential points)3類。異常的觀測值可以符合其中一類或幾類。但無論是哪一類都對分層回歸的預測能力有著嚴重的負面影響。好在我們可以通過SPSS檢測這些異常值。

其中，(1) 離群值是指實際值與預測值相差較大的數據，可以用Casewise Diagnostics檢驗和學生化刪除殘差(SDR_1)兩種方法進行檢驗。(2) 我們通過數據的槓桿值(LEV_1)檢測強槓桿點。(3) 而強影響點主要通過Cook距離(COO_1)進行檢測。如果存在這些異常值，我們可以根據實際情況判斷是否需要剔除或調整。

3.2.6 假設8：殘差近似正態分布

在分層回歸中，我們可以使用兩種方法判斷回歸殘差是否近似正態分布：(1) 帶正態曲線的柱狀圖或P-P圖；(2) 根據學生化殘差繪製的正態Q-Q圖。詳細內容參見多重線性回歸分析。

分層回歸可以得到3個主要結果：

新增自變量解釋因變量變異的比例

根據自變量預測因變量

自變量改變一個單位，因變量的變化情況

為了更好地解釋和報告分層回歸的結果，我們需要統計以下3個方面：

各模型的比較

模型的擬合程度

回歸係數

4.1 各模型的比較

比較不同模型是進行分層回歸的主要目的。SPSS輸出變量納入結果，如下：

從Model欄可以看出，本研究共有3個模型：Model 1、Model 2和Model 3。Variables Entered欄顯示該研究中每個模型較前一個模型增加的變量。

Model 1是第一個模型，沒有前序變量，因此該模型的自變量只有gender和age。Model 2比前一個模型(Model 1)增加了weight變量；Model 3比Model 2增加了heart_rate變量。這3個模型的納入變量與之前的SPSS操作一致，如下：

必須注意的是，Model 2和Model 3中納入的變量都是在上一個模型基礎上的。比如，Model 3是在Model 2的基礎上納入heart_rate變量，即共納入age、gender、weight和heart_rate四個變量，而不是heart_rate一個變量，具體解釋如下：

4.2 判斷分層回歸模型的擬合程度

判斷分層回歸模型擬合程度的指標有很多，我們主要向大家介紹變異的解釋程度、R2值在各模型間的變化和模型的統計學意義3個指標。

4.2.1變異的解釋程度

分層回歸中的每個模型都相當於一個強制納入變量（Enter method）的多重線性回歸模型，具體評價指標也相似：

Measures of model 『fit』 for the three models: 分別評價本研究中3個模型的擬合程度

R2是多層回歸的重要指標，反映自變量解釋因變量變異的程度。從上表可以看出，隨著自變量數量的增加，模型1-3的R2逐漸增加，分別是0.188、0.427和0.710，提示各模型對因變量的預測能力逐漸加強。

但是分層模型主要是檢驗增加自變量是否具有統計學意義，如模型2增加了weight變量後R2的變化是否具有統計學意義呢？我們將在4.2.2節為詳細大家介紹。

4.2.2 R2值在各模型間的變化

為了判斷新增變量對回歸的影響，我們需要關注下表的右半部分：

Assessing model change：對比模型變化

R Square Change欄顯示的是該模型與上一個模型R2的差值，Sig. F Change欄顯示的是該差值的統計檢驗的P值。以Model 1為例，如下：

Initial Model（Model 1）：模型1

模型1是初始模型，在空模型的基礎上增加了age和gender兩個變量。該模型的R2差值（R Square Change欄）和R2值（R Square欄）相同，均為0.188。R2差值具有統計學意義，P<0.001（Sig. F Change欄）。

模型2在模型1的基礎上增加了weight變量，R2值的變化情況如下：

Change between Model 1 and Model 2: 對比模型1和模型2

模型2的R2差值為0.239，即模型2的R2值(0.427)與模型1的R2值(0.188)的差。Sig. F Change欄提示，P<0.001，即模型2的R2差值具有統計學意義。

在本研究中，模型2與模型1的差別僅在於weight變量，提示在回歸中納入weight變量後自變量對因變量變異的解釋能力增加23.9%（P<0.001），即納入體重變量對受試者最大攜氧能力的預測改善有統計學意義。

解釋：如果我們在模型2中增加了不止一個變量，那麼R2值的改變就是所有新增變量共同作用的結果，而不是某一個變量的。

模型3在模型2的基礎上增加了heart_rate變量，R2值的變化情況如下：

Change between Model 2 and Model 3：對比模型2和模型3

模型3的R2差值為0.283，即模型3的R2值（0.710）與模型2的R2值（0.427）的差。Sig. F Change欄提示，P<0.001，即模型3的R2差值具有統計學意義。提示在回歸中納入heart_rate變量後自變量對因變量變異的解釋能力增加28.3%（P<0.001），即納入心率變量對受試者最大攜氧能力的預測改善有統計學意義。

4.2.3 模型的統計學意義

分層回歸的每一個模型都相當於一個多重線性回歸模型。SPSS輸出ANOVA表格中包括對每一個模型的評價，如下：

一般來說，我們習慣性只匯報最終模型的結果（本研究的模型3），如下：

模型3是全模型，納入gender、age、weight和heart_rate四個變量。結果示，該模型具有統計學意義，F(4,95)=58.078，P<0.001，提示因變量和自變量之間存在線性相關，說明相較於空模型，納入這四個自變量有助於預測因變量。

注釋：如果SPSS輸出的結果中「Sig」值為「.000」，代表的是P<0.001，而不是P=0.000。同時，如果P>0.05，我們最好在報告中寫清楚具體數值，如P=0.092，從而為讀者提供更多的信息。

4.3 回歸係數

正如前文所述，分層回歸模型主要關注的是最終模型，即本研究中的模型3，在對回歸係數進行解釋時也是如此。

Full model （Model 3）：模型3

我們可以按照多重線性回歸的分析方法對分層回歸係數進行解釋。連續變量(如age變量)的回歸係數表示自變量每改變一個單位，因變量的變化情況。分類變量(如gender變量)的回歸係數表示不同類別之間的差異，詳細內容參見多重線性回歸。

值得注意的是，我們運行分層回歸的主要目的是分析是否有必要增加新的自變量，而不是進行預測，回歸係數不是我們主要關注的結果。但是如果在匯報時需要提供回歸係數，我們也可以把這部分增加在報告中。

5.1 簡潔匯報

本研究採用分層回歸，分析逐步增加體重和心率變量是否可以提高性別、年齡對最大攜氧能力的預測水平。最終模型(模型3)納入性別、年齡、體重和心率4個變量，具有統計學意義R2=0.710，F(4, 95) = 58.078 (P<0.001)，調整R2=0.698。

僅增加體重變量(模型2)後，R2值增加0.239，F(1, 96) = 40.059(P<0.001)，具有統計學意義。增加心率變量(模型3)後，R2值增加0.283，F(1, 96) = 92.466(P<0.001)，具有統計學意義，具體結果見表1。

表1. 分層回歸結果

5.2 具體匯報

本研究採用分層回歸，分析逐步增加體重和心率變量是否可以提高性別、年齡對最大攜氧能力的預測水平。通過繪製部分回歸散點圖和學生化殘差與預測值的散點圖，判斷自變量和因變量之間存在線性關係。

已驗證研究觀測值之間相互獨立（Durbin-Watson檢驗值為1.910）；並通過繪製學生化殘差與未標化的預測值之間的散點圖，證實數據具有等方差性。

回歸容忍度均大於0.1，不存在多重共線性。異常值檢驗中，不存在學生化刪除殘差大於3倍標準差的觀測值，數據槓桿值均小於0.2，也沒有Cook距離大於1的數值。Q-Q圖提示，研究數據滿足正態假設。

最終模型（模型3）納入性別、年齡、體重和心率4個變量，具有統計學意義R2=0.710，F(4, 95) = 58.078 (P<0.001)，調整R2 = 0.698。僅增加體重變量(模型2)後，R2值增加0.239，F(1, 96) = 40.059 (P<0.001)，具有統計學意義。增加心率變量(模型3)後，R2值增加0.283，F(1, 96) = 92.466 (P<0.001)，具有統計學意義，具體結果見表1。

表1. 分層回歸結果

解釋：我們為了儘可能地向大家展示分層回歸結果，在表1裡納入了所有可能需要匯報的指標。但在實際工作中，大家可能並不需要匯報這麼多，應視情況而定。

（如果你想使用文中數據進行練習，請隨時給小咖（微信：xys2016ykf）發消息，小咖將原始數據發給你。）

關注醫咖會，輕鬆學習統計學~

有臨床研究設計或統計學方面的難題？快加小咖個人微信（xys2016ykf），拉你進統計討論群和眾多熱愛研究的小夥伴們一起交流學習。如果想進群，添加小咖時請註明「加群」二字。

點擊左下角「閱讀原文」，看看醫咖會既往推送了哪些統計教程。