北大數據分析老鳥送給學弟們的經驗之談

2020-11-29 九點微報

導讀

以下是我在近三年做各類計量和統計分析過程中感受最深的東西,或能對大家有所幫助。當然,它不是ABC的教程,也不是細緻的數據分析方法介紹,它只 是「總結」和「體會」。由於我所學所做均甚雜,我也不是學統計、數學出身的,故本文沒有主線,只有碎片,且文中內容僅為個人觀點,許多論斷沒有數學證明,望統計、計量大牛輕拍。

北大數據分析老鳥送給學弟們的經驗之談

關於軟體

對於我個人而言,所用的數據分析軟體包括EXCEL、SPSS、STATA、EVIEWS。在分析前期可以使用EXCEL進行數據清洗、數據結構調 整、複雜的新變量計算(包括邏輯計算);在後期呈現美觀的圖表時,它的製圖制表功能更是無可取代的利器;但需要說明的是,EXCEL畢竟只是辦公軟體,它 的作用大多局限在對數據本身進行的操作,而非複雜的統計和計量分析,而且,當樣本量達到「萬」以上級別時,EXCEL的運行速度有時會讓人抓狂。

SPSS是擅長於處理截面數據的傻瓜統計軟體。首先,它是專業的統計軟體,對「萬」甚至「十萬」樣本量級別的數據集都能應付自如;其次,它是統計軟體而非專業的計量軟體,因此它的強項在於數據清洗、描述統計、假設檢驗(T、F、卡方、方差齊性、正態性、信效度等檢驗)、多元統計分析(因子、聚類、判別、偏相關等)和一些常用的計量分析(初、中級計量教科書裡提到的計量分析基本都能實現),對於複雜的、前沿的計量分析無能為力;第三,SPSS主要用於 分析截面數據,在時序和面板數據處理方面功能了了;最後,SPSS兼容菜單化和編程化操作,是名副其實的傻瓜軟體。

STATA與EVIEWS都是我偏好的計量軟體。前者完全編程化操作,後者兼容菜單化和編程化操作;雖然兩款軟體都能做簡單的描述統計,但是較之 SPSS差了許多;STATA與EVIEWS都是計量軟體,高級的計量分析能夠在這兩個軟體裡得到實現;STATA的擴展性較好,我們可以上網找自己需要 的命令文件(.ado文件),不斷擴展其應用,但EVIEWS就只能等著軟體升級了;另外,對於時序數據的處理,EVIEWS較強。

綜上,各款軟體有自己的強項和弱項,用什麼軟體取決於數據本身的屬性及分析方法。EXCEL適用於處理小樣本數據,SPSS、 STATA、EVIEWS可以處理較大的樣本;EXCEL、SPSS適合做數據清洗、新變量計算等分析前準備性工作,而STATA、EVIEWS在這方面 較差;製圖制表用EXCEL;對截面數據進行統計分析用SPSS,簡單的計量分析SPSS、STATA、EVIEWS可以實現,高級的計量分析用 STATA、EVIEWS,時序分析用EVIEWS。

關於因果性

做統計或計量,我認為最難也最頭疼的就是進行因果性判斷。假如你有A、B兩個變量的數據,你怎麼知道哪個變量是因(自變量),哪個變量是果(因變量)?

早期,人們通過觀察原因和結果之間的表面聯繫進行因果推論,比如恆常會合、時間順序。但是,人們漸漸認識到多次的共同出現和共同缺失可能是因果關係,也可能是由共同的原因或其他因素造成的。從歸納法的角度來說,如果在有A的情形下出現B,沒有A的情形下就沒有B,那麼A很可能是B的原因,但也可能 是其他未能預料到的因素在起作用,所以,在進行因果判斷時應對大量的事例進行比較,以便提高判斷的可靠性。有兩種解決因果問題的方案:統計的解決方案和科學的解決方案。統計的解決方案主要指運用統計和計量回歸的方法對微觀數據進行分析,比較受幹預樣本與未接受幹預樣本在效果指標(因變量)上的差異。需要強調的是,利用截面數據進行統計分析,不論是進行均值比較、頻數分析,還是方差分析、相關分析,其結果 只是幹預與影響效果之間因果關係成立的必要條件而非充分條件。類似的,利用截面數據進行計量回歸,所能得到的最多也只是變量間的數量關係;計量模型中哪個變量為因變量哪個變量為自變量,完全出於分析者根據其他考慮進行的預設,與計量分析結果沒有關係。

總之,回歸併不意味著因果關係的成立,因果關係的判定或 推斷必須依據經過實踐檢驗的相關理論。雖然利用截面數據進行因果判斷顯得勉強,但如果研究者掌握了時間序列數據,因果判斷仍有可為,其中最經典的方法就是進行「格蘭傑因果關係檢驗」。但格蘭傑因果關係檢驗的結論也只是統計意義上的因果性,而不一定是真正的因果關係,況且格蘭傑因果關係檢驗對數據的要求較高 (多期時序數據),因此該方法對截面數據無能為力。綜上所述,統計、計量分析的結果可以作為真正的因果關係的一種支持,但不能作為肯定或否定因果關係的最終根據。

科學的解決方案主要指實驗法,包括隨機分組實驗和準實驗。以實驗的方法對幹預的效果進行評估,可以對除幹預外的其他影響因素加以控制,從而將幹預實施後的效果歸因為幹預本身,這就解決了因果性的確認問題。

關於實驗

在隨機實驗中,樣本被隨機分成兩組,一組經歷處理條件(進入幹預組),另一組接受控制條件(進入對照組),然後比較兩組樣本的效果指標均值是否有差異。隨機分組使得兩組樣本「同質」,即「分組」、「幹預」與樣本的所有自身屬性相互獨立,從而可以通過幹預結束時兩個群體在效果指標上的差異來考察實驗處 理的淨效應。隨機實驗設計方法能夠在最大程度上保證幹預組與對照組的相似性,得出的研究結論更具可靠性,更具說服力。但是這種方法也是備受爭議的,一是因為它實施難度較大、成本較高;二是因為在幹預的影響評估中,接受幹預與否通常並不是隨機發生的;第三,在社會科學研究領域,完全隨機分配實驗對象的做法會 涉及到研究倫理和道德問題。鑑於上述原因,利用非隨機數據進行的準實驗設計是一個可供選擇的替代方法。準實驗與隨機實驗區分的標準是前者沒有隨機分配樣本。

通過準實驗對幹預的影響效果進行評估,由於樣本接受幹預與否並不是隨機發生的,而是人為選擇的,因此對於非隨機數據,不能簡單的認為效果指標的差異來源於幹預。在剔除幹預因素後,幹預組和對照組的本身還可能存在著一些影響效果指標的因素,這些因素對效果指標的作用有可能同幹預對效果指標的作用相混 淆。為了解決這個問題,可以運用統計或計量的方法對除幹預因素外的其他可能的影響因素進行控制,或運用匹配的方法調整樣本屬性的不平衡性——在對照組中尋找一個除了幹預因素不同之外,其他因素與幹預組樣本相同的對照樣本與之配對——這可以保證這些影響因素和分組安排獨立。

隨機實驗需要至少兩期的面板數據,並且要求樣本在幹預組和對照組隨機分布,分析方法就是DID(倍差法,或曰雙重差分法);準實驗分析用截面數據就 能做,不要求樣本在幹預組和對照組隨機分布,分析方法包括DID(需兩期的面板數據)、PSM(傾向性得分匹配法,需一期的截面數據)和PSM- DID(需兩期的面板數據)。從準確度角度來說,隨機實驗的準確度高於準實驗和非實驗分析。

關於分析工具的選擇

如果根據理論或邏輯已經預設了變量間的因果關係,那麼就無需使用實驗方法。我對非實驗數據分析工具的選擇原則如下。

因變量為連續變量,自變量至少有一個連續變量,進行多元線性回歸;

因變量為連續變量,自變量全部為分類變量,進行方差分析;

因變量為分類變量,自變量至少有一個連續變量,使用Logit模型或Probit模型;

因變量為分類變量,自變量全部為分類變量,進行交叉表分析和卡方檢驗;

因變量在某個閉區間內分布,並且有較多樣本落在閉區間的邊界上,使用Tobit模型;

因變量不唯一,如多產出問題,進行數據包絡分析(DEA);

因變量為整數、數值小、取零個數較多,使用計數(Count)模型;

數據具有層次結構(嵌套結構),使用多層線性模型(HLM)。

隨著統計和計量經濟學的發展,各種前沿分析工具層出不窮,但我認為最靠譜的分析工具不外乎以下四種:DID(針對隨機實驗),多元線性回歸,固定效 應變截距模型(FE,針對面板數據),Logit模型或Probit模型(針對分類因變量數據)。其他方法或適用條件苛刻,或分析過程折騰,或方法本身不可靠(尤其是聚類分析、判別分析,超級不靠譜),因此能用以上四種方法分析問題時,不必為「炫方法」而瞎折騰。

關於擬合優度、變量選擇原則及估計值絕對大小的意義

在人人的「數據分析」小站中,某同學提出這樣一個問題:「多元回歸分析中,怎麼選擇自變量和因變量,可以使R方達到80%以上?」

很顯然,問這個問題的同學要麼沒學好計量,要麼就是犯了功利主義的錯誤,或者二者皆有。擬合優度的大小很大程度上取決於數據本身的性質。如果數據是時序數據,只要拿有點相關關係的變量進行回歸就能使擬合優度達到80%以上,但這樣的高R方根本說明不了什麼,很可能使分析者陷入偽回歸的陷阱,嚴謹的做 法當然是做平穩性檢驗和協整檢驗;如果是截面數據,根本沒必要追求R方到80%的程度,一般來說,有個20%、30%就非常大了。

如果一定要增大R方,那麼最應該做的的確是對納入模型的變量進行選擇。選擇納入模型的原則我認為有三條。第一,從理論和邏輯出發,將可能影響因變量的變量作為自變量納入模型,即理論上或邏輯上能影響因變量的自變量必須納入模型,即使該自變量的回歸係數不顯著。第二,奧姆剃刀原則——如無必要,勿增實 體,即理論上或邏輯上不能影響因變量的自變量不能納入模型,即使該自變量的回歸係數顯著。第三,防止納入具有多重共線性的自變量。

前面說了,對截面數據進行計量分析,R方能達到20%、30%是非常了不起的事情。但是,如果擬合優度(或類似擬合優度的指標)在20%、30%或 更低時,回歸係數只具有定性或定序上的意義,強調其絕對數值的大小沒什麼意義。譬如lnY=alnA+blnB+…+zlnZ+c回歸的R方為20%,a 為0.375,b為0.224,且二者的T檢驗顯著,那麼我們可以說,A、B對Y有影響,也可以說一百分點的A變化對Y的影響大於一百分點的B變化對Y的 影響(控制其他因素的情況下),但說一百分點的A變化對Y的影響較一百分點的B變化對Y的影響大0.151%,就沒什麼意義了。

其他一些建議或忠告

用心思考變量間的因果關係:是A影響了B還是B影響了A?A、B之間是否真的有因果關係?是否存在C,使C既影響A又影響B,而A、B本身無直接關係?

仔細選擇自變量,不要遺漏重要變量,否則會造成內生性問題。如果遇上了內生性問題,先不要忙著尋找工具變量或使用2SLS,尋找被遺漏的變量才是最 重要的事情。如果被遺漏的變量即使找到卻囿於各種困難無法納入分析,而你又忽然想到了一個絕佳的工具變量,那麼恭喜你,你可以在核心期刊發文章了!

一定要控制其他可能對因變量產生影響的因素,並認識到對回歸係數和偏相關分析結果的解釋都是建立在「其他條件不變」的情況之下。

看到R方很大時不要忙著高興,如果F檢驗顯著而T檢驗不顯著,很可能存在多重共線性。看到t值很大時,也不要忙著高興,因為這很可能是偽回歸的產物;如果此時DW值很小(小於0.5),那麼偽回歸的可能性進一步變大。

均值比較雖然簡單卻考驗分析者的嚴謹性。兩個看似不同的平均數、中位數或比率是否意味著高下有別?樣本取自獨立總體還是相關總體?方差「齊」或「不齊」?比較的是平均數、中位數還是比率差異?

樣本量限制了所能做的分析,小樣本時請珍惜自由度;不要用小於30個樣本的數據進行計量分析(尤其是時序分析)和複雜的統計分析;不要以為能從小於或等於5期的數據中看出什麼「發展趨勢」;不要沒有依據的使用複雜的模型和分析方法;不要將一目了然的簡單問題故意複雜化。

最重要的,不要造假!不對數據本身造假,也不對分析結果造假!數據分析前可以進行一定的清洗,將奇異值去掉,也可以嘗試對未預料到的分析結果進行探討和解釋,但如果去改數據改分析結果,那還有什麼必要進行數據分析呢?直接編文章編報告不就得了?某些「詭異的」、不合常理的數據分析結果,很可能就是研究最重要的所得。

以上,如有錯誤,敬請指正;如有補充,歡迎留言,我會加進文中。

後記:過完年就要去工作了,每想及此就頗為傷感。在北大兩年多,除了讓自己更加理想主義外,除了愛上燕園的學術氛圍和結識到一些好朋友好師長外,我學到並且目前還記得的知識並不多,且這些知識大多停留在「術」的層面。當然,「術」之道亦博大精深,我所掌握的不足萬一。之所以還敢寫下上面的文字貽笑大 方,是想為需要的人提供幫助,也是以此形式悼念自己逝去的大學時光。感謝丁延慶老師,感謝邵宜航老師,感謝所有給我以指導和幫助的師長與朋友。

來源:中國統計網、經管之家論壇

相關焦點

  • 北大教授:中國大學培養的都是精緻利己主義者,雙商高,善偽裝
    精緻的利己主義者出自於北大中文系錢理群教授的一段話,他說:「我們的一些大學,包括北京大學,正在培養一些『精緻的利己主義者』,他們高智商,世俗,老道,善於表演,懂得配合,更善於利用體制達到自己的目的
  • 小鳥從窩裡掉下來,主人的做法幫老鳥解決後顧之憂!
    小鳥從窩裡掉下來,主人的做法幫老鳥解決後顧之憂! 來源:萌寵一家親 原標題:小鳥從窩裡掉下來,主人的做法幫老鳥解決後顧之憂
  • 我國北大的天才張益唐:三次輸給了時間,學業有成才回歸祖國!
    北大是我國的頂尖學府之一,它的數院是無數數學愛好者嚮往的地方,並且那些也培養了很多出名的數學家。只不過北大有這樣一位天才,他在數學上的造詣極深,被寄予了很大期望,卻路途坎坷,連續幾次被時間打敗。大學畢業後,張益唐繼續在北大攻讀碩士研究生,畢業後又前往美國深造,他的博士導師是代數專家莫宗堅。在張益唐的博士論文中,他引用了一個導師已經發表過的觀點,後來這被證明是錯的,他也因此和導師鬧僵,即使博士論文出了點差錯,他還是成功獲得了博士學位,不過他卻花了6年時間,這是第二次被時間打敗。
  • 老鳥有話說
    老鳥有話說。 在龍珠動漫中,有一個很特殊的存在,這個人物是龜仙人。為什麼說他很特殊呢?本來是很早之前的老頭了,可是他居然活了好幾百歲。對於這樣逆天的存在,你還不覺得他很特殊嗎?龜仙人的出現倒像是專屬為悟空而活,因為悟空在小時候拜他為師了。
  • 北大直博生第五年退學,只拿到肄業證書。這人是傻,還是另有追求
    近日,知乎上有位90後,今年9月,從北大退學。他不是本科退學,是讀北大計算機圖形直博,而且是直博第5年退學。而整個學制不過是5年。直博退學的後果有多嚴重?直博退學意味著5年白讀,連個碩士畢業證書也沒有,只有一個蓋章的肄業證書。帖子一出,大家驚呆了,這是什麼操作?一共5年的學制,4年堅持下來了,在最後一年退學,這人是傻還是怎麼回事?
  • 復盤:北大信科2021屆夏令營~推免擬錄取
    以下內容為筆者採訪整理,並有幸親歷、見證部分過程~ 現復盤如下, 供學弟 信科擬錄取情況 北大信科(研究生院)2021年共錄取推免生268人。 其中,碩士85人; 直博183人。 生源高校38所。 錄取北大本校2021屆147名同學。
  • 清華和北大哪個好?哪個綜合實力強?詳細數據對比來了!
    圖4 數據來源:中國學位與研究生教育信清華和北大的學科整體水平相差不大,第四輪學科評估結果中,C+類以上學科清華有49個,北大有48個(部分學科及評級詳見表1)。>北大本科生的畢業去向在就業質量報告中分為六個指標,分析過程中將錄取研究生和免試研究生合併為升學,協議就業和自主創業合併為就業。
  • 畫眉鳥俗語「小鳥要吃香,老鳥要吃腥」什麼意思?
    為什麼說畫眉鳥「小鳥要吃香,老鳥要吃腥」,有什麼道理嗎?眾所周知,想要養好一隻畫眉鳥,不僅僅畫眉鳥本身的資質要可以,飼養者的養功也極為重要,而餵養畫眉鳥,就是養功之中極為重要的一點。在畫眉鳥的餵養技術之中,有一句話是說「子鳥吃香,山老吃腥」,也就是小鳥的給它吃香味重的,老鳥則要給它吃腥味重的。
  • 北京大學袁曉如:智能數據可視分析
    北京大學袁曉如為大家帶來報告《智能數據可視分析》。袁曉如,北京大學信息科學與技術學院研究員,博士生導師,機器感知與智能教育部重點實驗室副主任,大數據分析與應用國家工程實驗室常務副主任。長期致力於可視化與可視分析通用基礎方法與領域應用系統的研究,在基於地圖隱喻的社交媒體數據可視分析、任務驅動的可視化數據管理、交互式複雜數據分析、可視化的快速構建與自動化等方向做了創新的開拓工作,相關可視化研究工作成果廣泛用於流場分析、交通、社會媒體等領域。高動態範圍可視化的工作獲2005年IEEE VIS大會最佳應用論文獎,近年來指導團隊十餘項次在IEEE VAST可視分析挑戰賽中獲獎。
  • 獨家深度解析:北大2021推免擬錄取數據
    醫學部以後另行分析。本部數據詳情如下:擬錄取2814人 北大2021年擬錄取推免生2814名同學。北大共有38個研究生招生單位。38個研究生院招生詳情如下:其中,信科增加較多,較上屆增加50人。其次是馬院18人,深圳17人,教育9人,化院7人。
  • 清華北大專門「給美國培養人才」?真實數據「打臉」謠言
    這種種謠言之下,讓不少人都對清華、北大形成一種偏見,難道清華、北大專門「給美國提供人才」? 而這種謠言的主要來源則是和一則《紐約時報》的所謂調查數據相關:
  • 「北大還行」撒貝寧,你與學霸之間差的不止是學歷
    最後,鏡頭轉向「北大還行」的撒貝寧:「和一群還要考試的人坐在一起,真是... 什麼叫考生?」 一開口就是老凡爾賽了,觀眾羨慕之餘,也不禁為這些央視學霸們肅然起敬!
  • 生物、化學去北大就不勸退?學校公布保研數據,本科只是開頭
    在選專業的時候,總會有人從各種角度幫忙分析,每個專業都有自己的不足之處。全國的所轉專業中,有四個專業是公認的勸退專業,合稱為「生化環材」,也被稱為「四大天坑」。只要提到這四個專業,不論是在讀的學生,還是指導填志願的老師,就只有一句話,那就是千萬別入坑。
  • 不以理論知識和數據進行分析,解析有關渦輪增壓發動機的流言
    細節不多論述,重點是分析這些說法究竟是哪裡錯了。增壓器需要定期更換嗎?相信列出各種各樣的數據(涵蓋統計數據)仍舊會被很多質疑聲,因為大部分汽車愛好者是不太相信數據的;與工程師們研究出來的結果與分析師們統計出的數據相比,這些司機更偏向「維修師傅」的經驗之談。不能否認很多專業機修工在某一維修領域的技術水平不錯,但並不見得真懂車,汽車是非常複雜的工業產品。
  • 宅家上北大!北大面向社會開設慕課同步課堂
    為了讓公眾有機會共享北大優質課程,網絡授課當下,北大面向社會開設慕課同步課堂,分批將本學期直播課程的視頻,在華文慕課平臺上線,開啟「追劇」般的學習體驗。慕課相會,「宅家也能上北大」成為現實。北大同步課堂,為你點亮求知的星光,一起來看看這些精品課程。
  • 中國天眼的北大人 | 春天裡的一個瞬間
    她的總結言猶在耳:「你們北大來的,說起學校就眉飛色舞,煩」。年紀越長越體會到隔壁有道理。北大天文正旺,己為偶爾沾光的外圍,能在清華傑出校友南仁東的領導下,時時往貴州平塘為FAST搬磚種樹,福氣。這篇給老師和學弟交的作業,博一笑不負少年,輕拍。
  • 張俊成:一個北大保安的奮鬥與夢想
    這時北大辦公樓來電話,讓他把記者也送進去。  臨走前高杉告訴他,關注下周的《北京青年報》。張俊成一聽,頭髮豎起來了:壞了,得罪了,要曝光吧。他和同班的李師傅分析,自己沒有不禮貌吧。到了周二郵遞員送報,其中一份單寫著西門傳達室。他不敢看,讓同事先看,「有沒有給咱們工作帶來壞的影響?我趕緊寫檢查。」
  • 我國北大天才拒絕回國,三次輸給了時間,寧願在國外流浪!
    我國北大天才張益唐,憑藉他的成就完全可以獲得堪稱數學界皇冠的「菲爾茨」獎,但是由於三次與時間的錯過,丟失了這個榮譽。一次是在高考,原本可以提早進行高考的張益唐正好碰上了文革,文革時期高考制度被廢棄,直到1978年改革開放之初,高考制度才得以恢復,張益唐參加高考時已經23歲,比適齡階段的大學生大了五歲,這也是張益唐第一次輸給了時間。
  • 80後數學家許晨陽斬獲代數領域最高獎,曾在北大任教六年
    在不少網友看來,如果許晨陽現在依然紮根祖國大地,依然在北大當教授,為祖國培養人才該多好!那樣的話,這樣的獎項就更值得驕傲和自豪了!不過,對此也有網友質疑:假如許晨陽當初不出國,現在能取得這樣驕人的成績嗎?這也難說!但是,不管怎麼說許晨陽終是沒有加入美國國籍,他還是地地道道的中國人。中國人獲得大獎就是中國人的自豪和驕傲!
  • 中國大學數學系排名,只有北大和其它?一群天才的「表演」!
    北京大學,起源於19世紀末的京師大學堂,是我國近代第一所國立綜合性大學,是一所無數國人心中的最高學府,為莘莘學子們所嚮往。小編大學時,就讀於數學專業,無論是在校內與同學老師交流,還是在線上與校外的人交流,都常常聽同學老師們談到說,大學數學系排名中,只有北大和其它。