問卷實驗知多少:調研家一起做實驗吧!

2021-01-20 調研家

原創作者:胡婧煒

說起實驗,大家眼前首先浮現出來的場景可能是穿著大褂的科學家,堆滿試管儀器的實驗室,還有小白鼠等。我們經常也能聽到一些實驗,比如耳熟能詳的伽利略的「兩個鐵球同時著地」的實驗,改革開放或者扶貧政策實施前的試點工作,還有最近關於新型冠狀病毒肺炎的各種新藥和疫苗的實驗等。

實驗看似遠在天邊,其實近在眼前。我們每個普通人經常會有意無意地進行各種實驗。比如說,愛美的女士們,在鏡前試驗哪個色號的口紅讓自己看起來氣色更好;望子成龍的家長們,反覆考證哪一個培訓課程可以讓孩子的成績突飛猛進;還有肺炎期間宅在家中自學成才的各位「廚師」們,一定也反覆調整過配方來讓一道菜或一次烘焙更加成功。

為什麼要做實驗?

我們為什麼要做實驗?

儘管實驗的操作者既有天才也不乏凡人,實驗的設計有精準的也有與蹩腳的,一次實驗可能產生重大的發現也可能導致錯誤的推斷,然而每一個實驗背後的目的卻直觀明了:我們試圖通過這種手段,去發現紛繁複雜的現象背後,什麼是真正的原因,什麼是其導致的後果。

發現因果關係是科學研究的重要使命。Mill闡述過因果關係成立的三個條件:

(1) 原因發生在結果之前;(2) 原因與結果相關聯;(3) 除了該原因之外,沒有其他更合理的解釋。

實驗與因果關係這一邏輯不謀而合:首先,人們在實驗中先控制原因,然後觀測結果;其次,人們在實驗中可以看到原因的變化是否導致結果的變化;最後,在實驗中,人們可以通過不同的方法來排除其他一些不合理的解釋。因此,實驗是自然科學與社會科學中研究因果關係的一種廣泛使用的方法。

隨機分組:隨機實驗設計成功的關鍵

經典的隨機實驗要求將被試隨機分派到不同實驗組或者控制組。

舉例來說,我們想通過實驗來發現某一個網絡英語課程是否能改善學生的英語成績。在這個實驗中,幹預條件是學生上這一門網絡課程。

通過比對上過這門課的學生和沒上過這門課的學生的英語成績,我們來推斷這個課程是否有提升英語成績的功效。

在這個隨機實驗中,非常關鍵的一個因素就是參與實驗的被試被隨機分派到實驗組(隨機組A)和控制組(隨機組B)。也就是說,一個被試被分派到組A還是組B是完全由機率決定的,而不是受其他因素影響的,就像我們扔一個硬幣,正面被分派到組A,反面分派到組B。

為什麼隨機實驗中隨機分組這麼重要?隨機分組能夠確保組與組之間無論是在可觀測到特徵上還是在不可觀測到的特徵上都是等同的,它們之間唯一的差異是幹預條件的不同,這樣如果我們最終觀測到了結果上的差異,我們才能夠說這一差異是由實驗條件決定的,而非其他條件決定的。

在上面的例子中,如果分組不是隨機的,比如我們讓被試自願選擇是上這個課還是不上這個課,然後我們發現上完課的組在英語成績上明顯好於沒有上課的組,我們一定能將其歸功於這一網絡英語課程嗎?

試想一下,自願選擇上課的組可能原本英語成績就好於自願選擇不上課的組,他們對英語的興趣更濃,因而向來英語成績就好,也更有興趣選擇上一這門網課。

另一方面,即便二者一開始在英語成績上旗鼓相當,自願選擇上課的被試想改善英語成績的動機可能更加強烈,他們上不上這門課,成績的改善都會好過不上這門課的被試;而那些自願選擇不上課的被試,他們即使上了課,最終成績可能還是比不過那些自願選擇上課的被試。

也就是說,在沒有隨機分組的情況下,上完課的組的英語成績好於沒有上課的組的英語成績,可能和這個課並沒有什麼關係,而是由其他因素決定的。

社會調查和市場調查中用到實驗的場景很多,比如通過實驗比較不同的測量工具的測量效果,通過實驗比較不同的文字、圖片、視頻材料對受訪者行為與態度的影響等。

在調查還沒有計算機化的時代,隨機分組由工作人員通過隨機數等方式來確定,這一過程很容易受到人為的影響(比如,訪員為了迴避難以執行的實驗條件而隨意改變分組),從而影響到實驗的結果。計算機在隨機分組上有獨到的優勢。下面我們通過兩個例子來講解如何做實驗。

實驗題設計一:正向量表 VS 負向量表

有些研究者認為量表的方向會影響受訪者的答案——受訪者更傾向於選擇量表的起始端,而不管量表實際的方向是什麼。

簡單來說,如果量表是正向的,受訪者更傾向於表達正向的觀點;而如果量表是負向的,受訪者則更傾向於表達負向的觀點。

要檢驗量表的方向是否會影響受訪者所填報的答案,我們可以這樣來實施這個實驗。假設我們提問受訪者這樣一個問題:

您是否同意如下觀點:在家辦公可以提高工作的效率。

針對這一問題,我們使用的幹預條件是量表的方向。其中正向的量表是:非常同意1—2—3—4—5 非常不同意。負向的量表是:非常不同意1—2—3—4—5 非常同意。

根據上文的論述,我們需要將受訪者隨機指派給正向的量表(隨機組A)和負向的量表(隨機組B),如下圖所示:

我們在調研家問卷設計平臺這樣操作這個實驗:第一步,在問卷編輯界面錄入這兩道問題。可以看到,這兩道題唯一的區別是量表的方向,即量表兩端的標籤不同。

第二步:點擊左側面板中的「邏輯」(①),進入邏輯設置頁面,在「隨機」一欄,選擇「問題隨機」(②),點擊右上方的「增加問題隨機邏輯」(③),出現了問題隨機設置頁面,點擊「添加問題」(④):

第三步:在上一步點擊「添加問題」後,選中我們剛剛錄入的兩道問題(①),並將隨機出現問題的數量設置為1(②),即表示每位受訪者將隨機指派給這兩道問題中的一道。然後點擊右上方保存(③),這個隨機實驗就設置好了。

在數據收集完成後,我們可以觀察組A選擇非常同意的比例是否顯著高於組B,並據此作出量表的方向是可以影響受訪者答案的推斷。

在上一期的文章中,我們提到了上下文效應(回顧《那些年我們踩過的「坑」:淺談數據收集的各種效應(Effect)》)。沿用上一期的題目,受訪者將被隨機分派到以下A、B兩組的一組。

A組:

· A1你支持已婚女性因為不想要更多孩子而墮胎嗎?

· A2你支持因為胚胎缺陷而墮胎嗎?

B組:

· B1你支持因為胚胎缺陷而墮胎嗎?

· B2你支持已婚女性因為不想要更多孩子而墮胎嗎?

我們想要檢驗在沒有受到「因胚胎缺陷而墮胎」一題影響的情況下(即A組,受訪者先回答「因不想要孩子而墮胎」一題,不會受到「因胚胎缺陷而墮胎」一題的影響)和受到「因胚胎缺陷而墮胎」一題影響的情況下(即B組,受訪者後回答「不想要孩子而墮胎」一題,會受到「因胚胎缺陷而墮胎」一題的影響),受訪者支持「因不想要孩子而墮胎」的比例是否有顯著的不同。

與上一個例子不同,這裡每一個實驗組都需要回答兩道問題。如果沿用上一個例子的方法,儘管我們可以設置為4道題隨機出現2道,但並不能控制出現哪兩道。而實際的需求是,A1必須和A2綁定在一起出現,B1必須和B2綁定在一起出現。在這種情況下,我們需要用到題組隨機。

同樣,第一步:在問卷編輯界面錄入問題。注意,此時我們需要將兩組問題錄製在兩個題組中:

第二步:點擊左側面板中的「邏輯」(①),進入邏輯設置頁面,在「隨機」一欄,選擇「題組隨機」(②),點擊右上方的「增加題組隨機邏輯」(③),出現了題組隨機設置頁面,點擊「添加題組」(④):

第三步:在上一步點擊「添加題組」後,選中我們剛剛錄入的兩個題組(①),並將隨機出現題組的數量設置為1(②),即表示每位受訪者將隨機指派給這兩組問題中的一組。然後點擊右上方保存(③),隨機實驗設置完成。

註:此題也可以用隨機順序的方式實現,受篇幅限制,此處不贅述。

在數據收集完成後,我們觀察組A支持「因不想要孩子而墮胎」的比例與組B支持「因不想要孩子而墮胎」的比例,並據此作出上下文效應是否存在的推斷。

相關焦點

  • 問卷實驗知多少:調研家一起做實驗吧
    為什麼要做實驗?我們為什麼要做實驗?儘管實驗的操作者既有天才也不乏凡人,實驗的設計有精準的也有與蹩腳的,一次實驗可能產生重大的發現也可能導致錯誤的推斷,然而每一個實驗背後的目的卻直觀明了:我們試圖通過這種手段,去發現紛繁複雜的現象背後,什麼是真正的原因,什麼是其導致的後果。發現因果關係是科學研究的重要使命。
  • Excel調查問卷:調研千萬種,問卷是一種!調研不做好,分析兩行淚!
    周末帶兒子逛商城,碰到某英語培訓機構的市場調查促銷活動,這個英語培訓機構恰好是我已經種過草的,索性我就積極配合了她,只見她在手機上打開一個類似如下的調查表:另外,最近我參與到一個供應鏈協同雲平臺的項目中,需要針對這個平臺,在老客戶群裡做一些需求調研,所以要設計一份客戶需求調研問卷。那麼,我們要做這樣一份問卷,最關鍵的是什麼呢?
  • 在家也能做實驗 浙大化學實驗中心開通虛擬仿真實驗平臺
    在討論會上,同學們紛紛表示通過逼真的虛擬實驗,將自己置身各個實驗危險場景,深深體會到了實驗室安全的重要性。虛擬仿真實驗簡單蒸餾裝置圖介紹化學實驗課程直播界面課程體量大,系外課比例高,如何適應網課?提前調研+協同「作戰」2019-2020學年春夏學期,化學系共有166門課程實現網上教學,其中46門為本系課程,120門為全校公選課,系外課程比例達到72%。除1名外籍教師Simon因在國外有時差採用錄播,1名教師選擇學校錄播教室直播外,其餘164門課程均採用「學在浙大」+「浙大釘」直播形式。
  • 「科學實驗」每周一個小實驗——「磁鐵的魔力」
    愛迪生科學實驗課堂體驗活動本周六日大放送!!!!本周實驗知多少?一物脾氣怪,專把鋼鐵愛,遇到就粘上,不扯分不開。本周實驗小彩蛋!!有好辦法的小朋友們快聯繫我們吧!前三名會獲得科技遊樂館勳章一枚哦!適 合 年 齡5歲—12歲的探索家們課 程 特 色迷你小實驗:內容包括實驗前準備、實驗過程、實驗記錄這幾部分。小百科:讓家長了解孩子學習的相關科學知識,並幫孩子鞏固實驗中所學的內容。
  • 在家中也能做實驗丨化學實驗中心開通虛擬仿真實驗平臺!
    「並且,中心主動對接虛擬仿真實驗開發公司,為老師們開通虛擬仿真實驗項目的權限。在討論會上,同學們紛紛表示通過逼真的虛擬實驗,將自己置身各個實驗危險場景,深深體會到了實驗室安全的重要性。提前調研+協同「作戰「2019-2020學年春夏學期,化學系共有166門課程實現網上教學,其中46門為本系課程,120門為全校公選課,系外課程比例達到72%。
  • 跟孩子一起做科學實驗受到家長追捧
    如何在紙上寫一封別人看不到的密碼信……隨著一個叫做 「和孩子在家裡做科學實驗」網上專欄受到眾多家長關注,這些問題的答案,正在不少滬上家庭一一被揭曉。在家裡跟孩子一起做科學實驗正成為一種新的寓教於樂的方式。 在白紙上用白醋寫字繪畫,原本並看不出寫了些什麼,但只要用火苗在紙下一烘烤,白醋寫過的痕跡立即變成了咖啡色,顯現出來……這就是家庭小實驗——密碼信。
  • 清青小實驗第149期|單機麻將決策實驗、BUN2實驗
    清青實驗THU校內自己的實驗信息發布平臺大家好!歡迎關注清青實驗!與機器人一起完成幾局單機的麻將遊戲【實驗報酬】時長約50-60分鐘,報酬為60元人民幣,通過微信或支付寶直接支付【參加者要求】清華大學學生,有麻將經驗,未參加過之前的實驗【實驗地點】清華大學舜德樓524C實驗報名成功會通過簡訊告知時間和地點
  • 宅家科學實驗之——做一個浮沉子
    宅家科學實驗 做一個浮沉子 同學們,大家好!今天我們來做一個宅家小實驗,它的名字叫浮沉子。 實驗材料 水、帶蓋的礦泉水瓶、帶彎頭的吸管、曲形針、剪刀。 製作過程 1.將彎頭吸管對摺,沿兩斷對齊的地方剪掉。 2.將兩枚曲形針連在一起。
  • 一起動手做實驗:利用靜電分離糖和十三香
    利用靜電分離糖和十三香的實驗  開欄語  我們的《一起動手做實驗》欄目從今天起與大家見面啦!小朋友、大朋友感興趣的小實驗,充滿神秘色彩的自然現象,利用化學、物理原理解決生活小難題……都將成為我們的探索對象。
  • 數位化轉型趨勢下資本市場分析師行業調研問卷報告
    調研結果要點:此次調研共涉及超過四十家券商(或基金等資管機構)的99位研究員或投資經理,涉及面相對較廣,具有代表性;從考核機制上看,67%以上的分析師表示是按季度進行考核,60%以上分析師表示考核指標主要是以佣金為主,且大多存在淘汰機制
  • 宅家必備--簡易物理小實驗(三)
    親愛的物院童鞋們上一期小phy推出的物理小實驗是不是簡單又有趣呢是不是讓疫情期間宅家的你又多了一份快樂呢自己動手完成簡單的物理小實驗不僅能提升自己的專業技能還可作為忙碌學習後的娛樂消遣豈不是兩全其美呢經過小phy的簡單介紹你是不是也迫不及待想動手去做更多有趣的物理小實驗呢
  • 安譜實驗: 要做實驗耗材界的「京東」
    一家新三板掛牌公司敏銳地捕捉到這個信息,迅速作出反應,就「毒雞蛋」問題推出了相應的檢測方案,這家公司就是專注於食品與環境檢測領域實驗室耗材的安譜實驗。近日,全國股轉系統和上海證券報聯合開展的2017「新三板萬裡行」大型調研活動來到上海松江,調研這家經常與食品安全「事故」打交道的公司,探究安譜實驗的未來發展之路。
  • 好玩的科學小實驗,一起來做吧!
    別著急,我們今天做的小實驗,把這些問題通通解決!01 釣的不是魚是「冰」道具:鹽、冰塊、水、一根繩子方法:1) 在水裡放幾塊冰塊,讓孩子試試用繩子「釣冰」。神奇吧!這是為什麼呢?因為鹽可以降低冰的凝固點(和下雪天在馬路上撒鹽以掃除冰雪是同一個道理)。在冰面撒鹽,仔細看的話,冰是在一點點融化的。當一部分冰塊化掉的時候,會大量吸收周圍的熱量,使周圍溫度下降,化開的水會再度結成冰。繩子與冰塊就又凍在一起了。
  • 龍途互動:中國消費者疫後旅遊意向調研報告——2020年3月問卷結果...
    本次調研採集了1115份完整問卷樣本,覆蓋4個一線城市、14個新一線城市和26個二線及以下的城市,調查樣本更多來自80和90後人群。相比三口之家,更多四口之家(p= .01)和單身(p = .04)調研對象認為疫情最早在4月份就能完全恢復。關於最晚恢復時間,55%的四口之家(p = .005)認為疫情在5-7月完全恢復,25%的四口之家調研對象認為疫情可在8-10月完全恢復。
  • 好玩又漲知識,一起和孩子做科學小實驗!
    宅家抗「疫」除了讓孩子上網課唱歌彈琴、跳繩跳馬、澆花餵狗還有什麼寓教於樂又能增進親子關係的活動呢?小編給大家支一招——一起和孩子做「科學小實驗」比如這樣的↓↓↓筷子提米將筷子插入一個裝滿大米的瓶子中,發現一根筷子就能提起整瓶大米,這是由於筷子與米之間以及米與米之間的摩擦力很大造成的。
  • 如何設計在線教育用戶調研問卷?藉助消費行為學理論
    本文筆者分享了設計用戶調研問卷的方式和具體的消費行為學理論,供大家參考與學習。研究用戶下單影響因素的方法很多,可以通過用戶行為軌跡、用戶畫像等進行數據分析;也可以用傳統問卷調研的方式,讓用戶選出自己的內心所想。
  • 和科學老師一起來做實驗吧
    今天我們一起來領略彩色的雪的魅力吧。」12月1日,管城區十八裡河中心小學科學老師王小麗帶領三年級學生開展了課後延時實驗課《彩色的雪》。課堂上,王小麗給三年級學生演示了彩色的雪的實驗過程。王小麗先以同學們熟知的雪景話題引入,成功的吸引了學生的注意力。
  • 適合與孩子一起做的食品科學實驗
    烹飪像是做實驗,過程中充滿了很多物理、化學的變化與數學計算的過程。食材所具有的多種營養素、豐富的色彩與形狀,也是自然重要饋贈的一部分,所以食育與科學啟蒙、藝術啟蒙也有著重合的部分。之前關於「食育」的文章寫了不少,其實食育的核心是增加孩子接觸食物的機會,認識食物營養、食品安全,傳承食文化、與環境的調和,培養對食物的感恩之心等,從而達到培養健康的身心和豐富的人性"目的。
  • 實驗課線上學!曲師大老師帶你一起做實驗
    教學不停頓、要求不降低、質量不減弱今天,讓我們跟隨曲阜師大老師們的腳步一起玩轉網上實驗課堂實驗教學是高校教育教學工作的重要組成部分,是培養大學生創新精神和動手能力的關鍵環節,高校高質量發展離不開高水平的實驗教學。
  • 設計調查問卷要注意四個問題
    ■ 田波    問卷調查作為基層統計調查工作中獲取信息的重要手段,廣泛應用於季度經濟信息要點調研、快速調研等。專業人員通過制定詳細周密的問卷,便可短時間內得到想要了解的真實信息。但在實際操作過程中,由於諸多因素影響,問卷調查結果很容易與真實情況發生偏差,影響調查結論,進而影響相應的決策。