【線性回歸】多變量分析:多元回歸分析

2021-01-15 AI小橙子Nieson

多元回歸分析(Multiple Regression Analysis)是多變量分析的基礎,也是理解監督類分析方法的入口!實際上大部分學習統計分析和市場研究的人的都會用回歸分析,操作也是比較簡單的,但能夠知道多元回歸分析的適用條件或是如何將回歸應用於實踐,可能還要真正領會回歸分析的基本思想和一些實際應用手法! 下面我們就來談談多元回歸分析,這張圖是利用多元線性回歸製作的策略分析圖,你可以理解X軸是重要性,Y軸是表現;



首先,多元回歸分析應該強調是多元線性回歸分析!強調線性是因為大部分人用回歸都是線性回歸,線性的就是直線的,直線的就是簡單的,簡單的就是因果成比例的;理論上講,非線性的關係我們都可以通過函數變化線性化,就比如:Y=a+bLnX,我們可以令 t=LnX,方程就變成了 Y=a+bt,也就線性化了。


一般我們採用的變化要根據數據分布特徵來進行,下表是常用的變化方法:


當然,變化的主要目的是線性化,同時期望數據分布是近似正態分布!


第二,線性回歸思想包含在其它多變量分析中,例如:判別分析的自變量實際上是回歸,尤其是Fisher線性回歸方程;Logistics回歸的自變量也是回歸,只不過是計算線性回歸方程的得分進行了概率轉換;甚至因子分析和主成分分析最終的因子得分或主成分得分也是回歸算出來的;當然,還有很多分析最終也是回歸思想!


第三:什麼是「回歸」,回歸就是向平均靠攏。


第四:如果你用線性回歸方式去解釋過去,你只能朝著一個趨勢繼續,但未來對過去的偏離有無數種可能性;


第五:線性回歸方程納入的自變量越多,越應該能夠反應現實,但解釋起來就越困難;


第六:統計學家往往追求的是簡約的模型和更高的解釋度,往往關注模型R平方,共線性和回歸診斷問題;


第七:市場研究人員往往注重模型的解釋合理性,是否與預設的直覺一直,是否支持了我的市場假設等;


下面我們從市場研究人員的角度看看如何利用多元線性回歸:


多元線性回歸分析的主要目的是:解釋和預測


假設我們收集了100個企業客戶經理對我產品的總體滿意度和分項指標的滿意度評價,我期望知道,什麼分項指標對我總體滿意度有重要影響,它的改進更能夠提升總體滿意度;如果建立預測模型,我期望知道了分項指標的評價就能夠預測總體滿意度數值;



在SPSS中選擇回歸分析後,把X10作為因變量,X1到X7作為自變量



一般選擇自變量進入方程的方法,可以先採用逐步回歸,讓電腦程式幫助確定變量的重要性,這在統計層面非常好,但是如果針對我現在的研究我需要採用Enter全部進入,如果某個指標不顯著,就不在方程中了我如何與客戶說呢?(假設他不懂統計,並且我需要完成上面的策略圖);



選擇相應的統計參數和輸出結果,注意:多變量分析都需要考慮預設值問題,逐步回歸中我們可以得到R平方的變化對我們理解方程有幫助!(Enter方法不需要)



R平方是我們最需要關注的,該值說明了方程的擬合好壞,R平方=0.80非常不錯了,說明:1)總體滿意度的80%的變差都可以由7個分項指標解釋,或者說,7個分項指標可以解釋總體滿意度80%的變差!2)R平方如果太大,大家不要高興太早,社會科學很少有那麼完美的預測或解釋,一定存在了共線性!



方程分析表的顯著性表明了回歸具有解釋力!



線性回歸方程給出可預測的計算係數,但是,社會科學很少進行預測,重要的是解釋;


這裡要注意的是如果自變量的測量尺度是統一的話,我們可以直接比較係數的大小,但是如果自變量的測量尺度不統一的話,我們必須看標準化回歸係數,標準化回歸係數去掉的量綱,且反應了重要性!我們就是需要重要性測量!


當然,這個時候,研究人員應該關注每個指標的回歸係數是否真的等於零,要進行假設檢驗!


我這裡就直接應用了,我們可以把7個自變量指標的均值作為表現,7個自變量的標準化相關係數作為重要性,完成散點圖!重要的指標,表現差當然是我們急需改進的了,這就是前面策略圖了。


我這是典型的市場研究思維方式,不太關注統計意義,而且我將所有的坐標軸和坐標數值都讓你看不到,我只是表現了測量,或許對市場洞察足夠了;但記住統計學家不能這樣!如果你是關注統計思想的人,應該要理解下面這張回歸解釋圖!



  線性回歸:提及因果關係,   必須非常謹慎!



相關焦點

  • 多元線性回歸分析:納入多元回歸自變量的確定及求解多元回歸方程
    許栩原創專欄《從入門到高手:線性回歸分析詳解》第五章,多元線性回歸分析:如何求解多元線性回歸方程。在前面的章節中我講到,實際需求預測場景中,通常,影響需求的因素不止一個,對需求影響的因素可能多種多樣,也就是說自變量多種多樣,很少能用單一的變量(也即一元線性回歸分析)來做好需求預測。這時,我們需要用到多元線性回歸分析。回歸分析在需求預測的應用,也主要是多元線性回歸分析。對需求預測而言,多元線性回歸更具有實用性和有效性。
  • 範例分析:多元線性回歸分析
    基礎回顧簡單線性和多元線性回歸理論基礎請回顧:相關與回歸分析基礎;一元(簡單線性)相關分析與回歸分析
  • 多元線性逐步回歸分析
    一、方法簡述多元逐步回歸有3種篩選自變量的方法:(1)向前法:這種算法SPSS會建立由一個自變量開始,每次引入一個偏回歸平方和最大且具有統計學意義的自變量,由少到多,直到無具有統計學意義的因素可以代入方程為止,此法也可能納入部分無意義變量;(2)向後法:這種算法SPSS會先建立一個全因素的回歸方程,再逐步剔除一個偏回歸平方和最小且無統計學意義的自變量
  • 多元回歸分析入門
    要了解變量之間如何發生相互影響的,就需要利用相關分析和回歸分析。在上一章講述了相關分析有關內容。本章介紹回歸分析基本概念,回歸分析的主要類型:一元線性回歸分析、多元線性回歸分析、非線性回歸分析、曲線估計、時間序列的曲線估計、含虛擬自變量的回歸分析以及邏輯回歸分析等。j基本概念:    相關分析和回歸分析都是研究變量間關係的統計學課題。
  • 【從入門到高手:回歸分析】多元回歸分析:如何求解多元回歸方程
    許栩原創專欄《從入門到高手:線性回歸分析詳解》第五章,多元線性回歸分析:如何求解多元回歸方程
  • SPSS多元線性回歸案例:回歸分析方法實戰
    回歸分析是一種預測性的建模技術,它研究的是因變量(目標)和自變量(預測器)之間的關係。這種技術通常用於預測分析,時間序列模型以及發現變量之間的因果關係。使用曲線/線來擬合這些數據點,在這種方式下,從曲線或線到數據點的距離差異最小。
  • SPSS分析技術:線性回歸分析
    回歸方程式不僅能夠解釋現在個案內部隱藏的規律,明確每個自變量對因變量的作用程度。而且,基於有效的回歸方程,還能形成更有意義的數學方面的預測關係。因此,回歸分析是一種分析因素變量對因變量作用強度的歸因分析,它還是預測分析的重要基礎。
  • 線性回歸分析詳解10(完結篇):線性回歸分析預測的十大步驟
    許栩原創專欄《從入門到高手:線性回歸分析詳解》第10章,這是本專欄的最後一章,是專欄的完結篇:用線性回歸分析做預測,多元線性回歸分析預測的十大步驟。線性回歸分析專格欄總目錄請見上圖,前9章,我分別講述了回歸分析及與回分析相關的概念,一元、多元線性回歸分析的公式與計算方法,以及多重共線性、回歸方程的精度、顯著性驗證和置信區間等進行回歸分析的重要步驟及其計算方法。至此,以回歸分析進行需求預測的各項知識點及各項準備工作全部完成,我們可以正式的以回歸分析進行需求預測。
  • 一文讀懂多元回歸分析
    多元回歸分析是多變量分析的基礎,也是理解監督類分析方法的入口!實際上大部分學習統計分析和市場研究的人的都會用回歸分析,操作也是比較簡單的,但能夠知道多元回歸分析的適用條件或是如何將回歸應用於實踐,可能還要真正領會回歸分析的基本思想和一些實際應用手法!
  • 原創案例:Matlab多元線性回歸分析-逐步回歸
    在多元線性回歸分析中,逐步回歸法是對多個變量進行分析的有效方法。逐步回歸的基本思想是逐個引入自變量,保留影響顯著的變量,剔除影響不顯著的變量,最終使得回歸方程擬合度趨於完美。在Matlab中,函數stepwise的功能就是對需要分析的變量進行逐步回歸,最後得出回歸方程各個擬合信息。Stepwise的簡單用法是stepwize(X,Y),X是由若干個自變量列向量組成的矩陣,Y是由因變量構成的列向量。
  • 機器學習的線性回歸分析
    打開APP 機器學習的線性回歸分析 是DRR啊 發表於 2020-01-23 17:33:00 概述 線性回歸是利用數理統計中回歸分析
  • spss多變量回歸分析 - CSDN
    它是「不發聲」的過程變量,通過設置啞變量,可將多分類變量進行二值化的處理,從而結局多分類特別是無需多分類變量無法納入回歸分析模型的尷尬局面。這個變量是無序分類變量,各變量之間沒有等級關係。因此,取平均值沒有任何實際意義。因此,無序多分類變量不能直接納入回歸開展分析。回歸分析的啞變量設置對於種族的影響,其實研究最想知道的是,(1)相對白人,黑人出生缺陷風險會提升多少? (2)相對白人,其它人種出生缺陷風險會提升多少?
  • r語言多元線性回歸相關性_多元線性回歸調整相關性 - CSDN
    多元線性回歸多元線性回歸的核心問題:應該選擇哪些變量???RSS(殘差平方和)與R2  (相關係數的平方)選擇法:遍歷所有可能的組合,選出使RSS最小,R2  最大的模型。
  • SPSS大戰多元回歸分析
    使用多元回歸進行數據分析,分析軟體供選擇的比較多,主要有Eviews、Spss、Stata、Sas、Gretel等。
  • 逐步回歸分析調整後r2和模型的顯著性f值_多元線性回歸方程的顯著...
    (2)相關分析主要是描述兩個變量之間相關關係的密切程度;回歸分析不僅可以揭示變量X對變量Y的影響程度,還可以根據回歸模型進行預測。回歸分析模型主要包括線性回歸及非線性回歸兩種。線性回歸又分為簡單線性回歸、多重線性回歸;而非線性回歸,需要進行對數轉化等方式,將其轉化為線性回歸的形式進行研究。
  • python多重線性回歸分析
    一個簡單的線性回歸模型測試。定義:線性回歸是利用數理統計中回歸分析,來確定兩種或兩種以上變量間相互依賴的定量關係的一種統計分析方法,運用十分廣泛。表達形式為y =aX+b,b為誤差服從均值為0的正態分布,a為截距。
  • 多元線性回歸與模型診斷
    一、多元線性回歸1.
  • 線性回歸分析詳解7:多元回歸方程的精度,R平方與調整後的R平方
    許栩原創專欄《從入門到高手:線性回歸分析詳解》第七章,回歸方程的精度,R平方與調整後的R平方。多元線性回歸分析,我們在求出多元線性回歸方程後,這個方程到底怎麼樣,能不能起到效果,需要對求出的回歸方程進行一系列評價和評估。這些評價和評估,首先要做的,是確認回歸方程的精度。本章,我將分如下三個小節講述回歸方程的精度,歡迎閱讀與探討。我的《線性回歸分析》專欄總目錄見下圖。
  • 多元線性回歸預測spss - CSDN
    回歸一直是個很重要的主題。因為在數據分析的領域裡邊,模型重要的也是主要的作用包括兩個方面,一是發現,一是預測。而很多時候我們就要通過回歸來進行預測。關於回歸的知識點也許不一定比參數檢驗,非參數檢驗多,但是複雜度卻絕對在其上。回歸主要包括線性回歸,非線性回歸以及分類回歸。本文主要討論多元線性回歸(包括一般多元回歸,含有虛擬變量的多元回歸,以及一點廣義差分的知識)。
  • spss多元線性回歸專題及常見問題 - CSDN
    本文收集整理關於spss多元線性回歸結果解讀的相關議題,使用內容導航快速到達。內容導航:Q1:請高手幫忙分析下SPSS的多元線性回歸結果吧~急啊~~~你的回歸方法是直接進入法擬合優度R方等於0.678,表示自變量可以解釋因變量的67.8%變化,說明擬合優度還可以。