SPSS分析技術:線性回歸分析

基礎回顧

相關分析可以揭示事物之間共同變化的一致性程度，但它僅僅只是反映出了一種相關關係，並沒有揭示出變量之間準確的可以運算的控制關係，也就是函數關係，不能解決針對未來的分析與預測問題。相關分析請點擊回顧：

SPSS分析技術：Pearson相關、Spearman相關及Kendall相關；

SPSS分析技術：偏相關分析；

SPSS分析技術：低測度數據的相關性分析；

回歸分析就是分析變量之間隱藏的內在規律，並建立變量之間函數變化關係的一種分析方法，回歸分析的目標就是建立由一個因變量和若干自變量構成的回歸方程式，使變量之間的相互控制關係通過這個方程式描述出來。

回歸方程式不僅能夠解釋現在個案內部隱藏的規律，明確每個自變量對因變量的作用程度。而且，基於有效的回歸方程，還能形成更有意義的數學方面的預測關係。因此，回歸分析是一種分析因素變量對因變量作用強度的歸因分析，它還是預測分析的重要基礎。

回歸分析類型

回歸分析根據自變量個數，自變量冪次以及變量類型可以分為很多類型，常用的類型有：

線性回歸；

曲線回歸；

二元Logistic回歸技術；

線性回歸原理

回歸分析就是建立變量的數學模型，建立起衡量數據聯繫強度的指標，並通過指標檢驗其符合的程度。線性回歸分析中，如果僅有一個自變量，可以建立一元線性模型。如果存在多個自變量，則需要建立多元線性回歸模型。線性回歸的過程就是把各個自變量和因變量的個案值帶入到回歸方程式當中，通過逐步迭代與擬合，最終找出回歸方程式中的各個係數，構造出一個能夠儘可能體現自變量與因變量關係的函數式。在一元線性回歸中，回歸方程的確立就是逐步確定唯一自變量的係數和常數，並使方程能夠符合絕大多數個案的取值特點。在多元線性回歸中，除了要確定各個自變量的係數和常數外，還要分析方程內的每個自變量是否是真正必須的，把回歸方程中的非必需自變量剔除。

名詞解釋

線性回歸方程：一次函數式，用於描述因變量與自變量之間的內在關係。根據自變量的個數，可以分為一元線性回歸方程和多元線性回歸方程。

觀測值：參與回歸分析的因變量的實際取值。對參與線性回歸分析的多個個案來講，它們在因變量上的取值，就是觀測值。觀測值是一個數據序列，也就是線性回歸分析過程中的因變量。

回歸值：把每個個案的自變量取值帶入回歸方程後，通過計算所獲得的數值。在回歸分析中，針對每個個案，都能獲得一個回歸值。因此，回歸值也是一個數據序列，回歸值的數量與個案數相同。在線性回歸分析中，回歸值也常常被稱為預測值，或者期望值。

殘差：殘差是觀測值與回歸值的差。殘差反映的是依據回歸方程所獲得的計算值與實際測量值的差距。在線性回歸中，殘差應該滿足正態分布，而且全體個案的殘差之和為0。

回歸效果評價

在回歸分析的評價中，通常使用全部殘差的平方之和表示殘差的量度，而以全體回歸值的平方之和表示回歸的量度。通常有以下幾個評價指標：

判定係數

為了能夠比較客觀的評價回歸方程的質量，引入判定係數R方的概念：

判定係數R方的值在0~1之間，其值越接近1，表示殘差的比例越低，即回歸方程的擬合程度越高，回歸值越能貼近觀測值，更能體現觀測數據的內在規律。在一般的應用中，R方大於0.6就表示回歸方程有較好的質量。

F值

F值是回歸分析中反映回歸效果的重要指標，它以回歸均方和與殘差均方和的比值表示，即F=回歸均方和/殘差均方和，在一般的線性回歸中，F值應該在3.86以上。

 

T值

T值是回歸分析中反映每個自變量的作用力的重要指標。在回歸分析時，每個自變量都有自己的T值，T值以相應自變量的偏回歸係數與其標準誤差的比值來表示。在一般的線性回歸分析中，T的絕對值應該大於1.96。如果某個自變量的T值小於1.96，表示這個自變量對方程的影響力很小，應該儘可能把它從方程中剔除。

 

檢驗概率（Sig值）

回歸方程的檢驗概率值共有兩種類型：整體Sig值和針對每個自變量的Sig值。整體的Sig值反映了整個方程的影響力，而針對自變量的Sig值則反映了該自變量在回歸方程中沒有作用的可能性。只有Sig值小於0.05，才表示有影響力。

案例分析（一元線性回歸）

現在有一份《大學生學習狀況》的數據，請分析作業情況與數學成績之間的關係，構造回歸方程，並評價回歸分析的效果。

（所有例題的數據文件都已經上傳到QQ群中，需要的朋友可以前往下載）

SPSS分析步驟

1、選擇菜單【分析】-【回歸】-【線性】命令，啟動線性回歸命令。

2、將數學成績選為因變量，將作業情況選為自變量，點擊【確定】。

結果解釋

判定係數R方值為0.919，表示此回歸方程具有很好的質量。

在方差分析表格中，顯著性為0.000，小於0.05，表示回歸方程具有很強的影響力，能夠很好的表達數學成績與作業情況的控制關係。

最後一個表格中的B列，常數為39.887，作業情況的係數為6.539，所以回歸方程為y=6.539x+39.887。

案例分析（多元線性回歸）

分析數學成績與專業、愛好、作業情況、上網時間和遊戲時間之間的關係。

 

分析步驟

1、字符型數據數值化編碼，將愛好和專業進行數值化編碼。

2、選擇踩踏【分析】-【回歸】-【線性】命令。

3、將數學成績選入因變量，將數值化後的愛好、專業以及上網時間、遊戲時間、作業情況選為自變量。

4、在自變量下的選項框中選擇【逐步】，如下圖：

紅框內選項含義：

輸入：對於用戶提供的所有自變量，回歸方程全部接納。

逐步：先檢查不在方程中的自變量，把F值最大（檢驗概率最小）且滿足進入條件的自變臉選入方程中，接著，對已經進入方程的自變量，查找滿足移出條件的自變量（F值最小且F檢驗概率滿足移出條件）將其移出。

前進：對於用戶提供的所有自變量，系統計算出所有自變量與因變量的相關係數，每次從尚未進入方程的自變量組中選擇與因變量具有最強正或負相關係數的自變量進入方程，然後檢驗此自變量的影響力，直到沒有進入方程的自變量都不滿足進入方程的標準為止。

後退：對於用戶提供的所有自變量，先讓它們全部強行進入方程，再逐個檢查，剔除不合格變量，直到方程中的所有變量都不滿足移出條件為止。

刪除：也叫一次性剔除方式，其思路是通過一次檢驗，而後剔除全部不合格變量。這種方法不能單獨使用，通常建立在前面已經構造出初步的回歸方程的基礎上，與前面其他篩選方法結合使用。

結果解釋

1、第一個表格是輸入/移去變量表格；

即最後遊戲時間和作業情況被納入到回歸方程當中。

2、模型表格和方差分析表格。這兩個表格表明產生兩個回歸模型，這是遊戲時間和作業情況依次進入回歸過程之後的結果，且第二個回歸模型的R方值大於第一個，所以第二個回歸方程比較好。

3、係數表格；

採用第二個回歸模型是y=-0.743*x1+1.216*x2+97.729，x1代表遊戲時間，x2代表作業情況。

所有例題的數據文件都已經上傳到QQ群中，需要的朋友可以前往下載。

溫馨提示：

SPSS教學視頻，請點擊：《SPSS入門基礎》視頻教程；

生活統計學QQ群：134373751，用於分享文章提到的各種案例資料、軟體、數據文件等。支持各種資料的直接下載和百度雲盤下載。

生活統計學微信交流群，用於各自行業的數據研究項目及其成果交流分享；由於人數大於100人，請添加微信possitive2，拉您入群。