多元回歸分析(Multiple Regression Analysis)是多變量分析的基礎,也是理解監督類分析方法的入口!實際上大部分學習統計分析和市場研究的人的都會用回歸分析,操作也是比較簡單的,但能夠知道多元回歸分析的適用條件或是如何將回歸應用於實踐,可能還要真正領會回歸分析的基本思想和一些實際應用手法! 下面我們就來談談多元回歸分析,這張圖是利用多元線性回歸製作的策略分析圖,你可以理解X軸是重要性,Y軸是表現;
首先,多元回歸分析應該強調是多元線性回歸分析!強調線性是因為大部分人用回歸都是線性回歸,線性的就是直線的,直線的就是簡單的,簡單的就是因果成比例的;理論上講,非線性的關係我們都可以通過函數變化線性化,就比如:Y=a+bLnX,我們可以令 t=LnX,方程就變成了 Y=a+bt,也就線性化了。
一般我們採用的變化要根據數據分布特徵來進行,下表是常用的變化方法:
當然,變化的主要目的是線性化,同時期望數據分布是近似正態分布!
第二,線性回歸思想包含在其它多變量分析中,例如:判別分析的自變量實際上是回歸,尤其是Fisher線性回歸方程;Logistics回歸的自變量也是回歸,只不過是計算線性回歸方程的得分進行了概率轉換;甚至因子分析和主成分分析最終的因子得分或主成分得分也是回歸算出來的;當然,還有很多分析最終也是回歸思想!
第三:什麼是「回歸」,回歸就是向平均靠攏。
第四:如果你用線性回歸方式去解釋過去,你只能朝著一個趨勢繼續,但未來對過去的偏離有無數種可能性;
第五:線性回歸方程納入的自變量越多,越應該能夠反應現實,但解釋起來就越困難;
第六:統計學家往往追求的是簡約的模型和更高的解釋度,往往關注模型R平方,共線性和回歸診斷問題;
第七:市場研究人員往往注重模型的解釋合理性,是否與預設的直覺一直,是否支持了我的市場假設等;
下面我們從市場研究人員的角度看看如何利用多元線性回歸:
多元線性回歸分析的主要目的是:解釋和預測
假設我們收集了100個企業客戶經理對我產品的總體滿意度和分項指標的滿意度評價,我期望知道,什麼分項指標對我總體滿意度有重要影響,它的改進更能夠提升總體滿意度;如果建立預測模型,我期望知道了分項指標的評價就能夠預測總體滿意度數值;
在SPSS中選擇回歸分析後,把X10作為因變量,X1到X7作為自變量
一般選擇自變量進入方程的方法,可以先採用逐步回歸,讓電腦程式幫助確定變量的重要性,這在統計層面非常好,但是如果針對我現在的研究我需要採用Enter全部進入,如果某個指標不顯著,就不在方程中了我如何與客戶說呢?(假設他不懂統計,並且我需要完成上面的策略圖);
選擇相應的統計參數和輸出結果,注意:多變量分析都需要考慮預設值問題,逐步回歸中我們可以得到R平方的變化對我們理解方程有幫助!(Enter方法不需要)
R平方是我們最需要關注的,該值說明了方程的擬合好壞,R平方=0.80非常不錯了,說明:1)總體滿意度的80%的變差都可以由7個分項指標解釋,或者說,7個分項指標可以解釋總體滿意度80%的變差!2)R平方如果太大,大家不要高興太早,社會科學很少有那麼完美的預測或解釋,一定存在了共線性!
方程分析表的顯著性表明了回歸具有解釋力!
線性回歸方程給出可預測的計算係數,但是,社會科學很少進行預測,重要的是解釋;
這裡要注意的是如果自變量的測量尺度是統一的話,我們可以直接比較係數的大小,但是如果自變量的測量尺度不統一的話,我們必須看標準化回歸係數,標準化回歸係數去掉的量綱,且反應了重要性!我們就是需要重要性測量!
當然,這個時候,研究人員應該關注每個指標的回歸係數是否真的等於零,要進行假設檢驗!
我這裡就直接應用了,我們可以把7個自變量指標的均值作為表現,7個自變量的標準化相關係數作為重要性,完成散點圖!重要的指標,表現差當然是我們急需改進的了,這就是前面策略圖了。
我這是典型的市場研究思維方式,不太關注統計意義,而且我將所有的坐標軸和坐標數值都讓你看不到,我只是表現了測量,或許對市場洞察足夠了;但記住統計學家不能這樣!如果你是關注統計思想的人,應該要理解下面這張回歸解釋圖!
線性回歸:提及因果關係, 必須非常謹慎!