人工智慧Gaydar(同志雷達)是偽科學還是災難?【壁虎科學 Ch.5】

2021-01-19 黃壁虎


壁虎按：去年（2017）的這個時候，史丹福大學的兩位研究人員做了一個驚人的研究：「用人工智慧（AI）來判斷一個人是不是彎的」。他們社交網站上抓取了幾十萬張照片，來訓練一個面部識別系統，目的是為了確定某人是直的還是彎的。這個去年被媒體炒到風口浪尖的報導到底幾分屬實、幾分炒作，讓我們深入討論一下。


（courtersy: pinterest.com）

這項研究首先得到了《經濟學人》雜誌的報導，然後全世界媒體不分三七二十一蜂擁追隨報導。我們甚至看到國內媒體也開始瘋轉「新人工智慧可以憑照片判斷性取向」加上「準確率超過」多少多少等驚人標題。或者會有投機倒把的APP和小程序出現，宣稱可以通過你的照片判斷你是直是彎。


(《經濟學人》2017年9月的報導)


但是稍微用一點邏輯和批判思維去思考，我們就知道事情絕不會這麼簡單。認真閱讀原研究就知道結論很明顯：僅基於這項研究，AI無法直接從照片判斷某人是不是同性戀者。


讓我們先回顧一下去年的這一份語驚四座的研究吧。這份研究由Michal Kosinski和王一倫（音譯，Yilun Wang）撰寫。該論文指出：「鑑於單一的面部圖像，該軟體能夠在81%的案例中區分男性同性戀和異性戀，在71%的案例中可以正確地區分女性同性戀和異性戀。」


從表面看來，這聽起來像「通過觀察他人的照片，人工智慧可以判斷男人是男同性戀還是直男。」也因此這被推向頭條新聞。但是這並不是這個結論的正確意思。


事實上，AI識別同性戀的概率並不是81%。而是給AI兩張照片（一張同性戀照片、一張異性戀照片），然後詢問它哪一個更可能是同性戀。他猜測的結果的正確率是男性81%，女性71%。也就是說他猜測的基線是從50%開始的——因為即使隨機猜測，它也有50%的概率正確。雖然它的結果好於50%，但也不能說明它猜測某人是不是同性戀的正確概率是81%。


所以我們不必害怕私生活包括性取向會在你去機場或看球時被人工智慧掃描出來。因為目前沒有太多證據表明這項技術可以做到這一點。


（courtersy: pinterest.com）


於此同時，這份研究的結論確實比隨機瞎猜（即50%）的概率要高出很多。讓我們來探討一下Kosinski和Wang的研究中得出較高正確率的原因到底是什麼？兩位作者表示，這個軟體主要學習和識別「差異」：即男性面孔中的女性特徵以及女性面孔中的男性特徵，但是它也會被其他信息，例如表情和傷疤所迷惑。


然而，這份在概率上相當成功的研究所使用的樣本選擇是帶有選擇偏差的。正如奧柏林學院的社會學家Greggor Mattson在一篇文章中指出：當研究者所使用的圖片都來自交友網站時，這本身就是有問題的。因為人們在選擇放什麼照片上去的時候本身就帶有選擇性，而這些選擇性和社會對同性戀以及異性戀的審美和社會期待/規勸有著很大關係。


（courtersy: pinterest.com）


舉個例子，在Blued上，我們會觀察到更多男生使用美顏、瘦臉、或者放大眼睛等照片處理手段，而在陌陌上，會有更多男生會選擇更加符合男性氣質的照片。另外，無論中外，男同性戀對於肌肉的表現欲和皮膚的護理都有較為明顯的集體性特徵。並且原研究為了縮小適用性，所有受試者都是白人，並且沒有包括雙性戀和跨性別者。也即是說一個gay，在社交網站上放上瘦了臉和放大眼睛的照片，更多說明的是社會和集體期待這樣一個長相，而不是這個長相與他本身的性取向之間的關係。


（courtersy: pinterest.com）

另外，更加重要的是，在黃壁虎之前發布的一篇文章中我們就深度討論過「異性戀/同性戀到底是不是天生的」這個問題。諸多當下的研究都更傾向於表示「性取向由生物學決定」這個論斷是站不住腳的。倫敦國王學院的Qazi Rahman是一個傾向於支持性取向主要依賴於生物學的學者，但是就連他也表示：「面部形狀和性取向可能有一個共同的原因——子宮內荷爾蒙的平衡——但這並不意味著面部形狀可以可靠地預測性取向。」【還記得我們之前「異性戀是天生的嗎？」這篇文章裡提到的「同母兄弟的出生順序效應」嗎？】


[同母兄弟的出生順序效應, 簡單來說：弟弟比哥哥更容易彎。

至於為什麼，詳情點擊閱讀《異性戀是天生的嗎？》]



但是，Michal Kosinski和Wang的這份研究激起了我們對人工智慧整體發展的擔憂。


Kosinski甚至表示：「這份研究的目的是讓人們認識到人工智慧的危險，並發出警告。如果面部識別很快就能識別某人的性取向，那麼下一步會不會是他們的政治觀點、犯罪傾向、甚至是他們的智商。」


Kosinski的這種論述不禁讓人發憷，這簡直就是恢復了19世紀到20世紀的那一套以貌取人的偽科學和種族主義。還依稀記得電影裡納粹使用卡尺衡量不同人種的腦門的畫面嗎？還記得日本軍國主義的人體試驗嗎？還記得古代人通過外貌特徵來判斷某人是不是巫師嗎？就連Kosinski也表示：「這是一個有爭議和令人不安的主題，它也讓我感到不安。」


（courtersy: pinterest.com）


我們以前是如何判斷同性戀的？


將性取向簡單的歸咎於一個生理表現的解釋，曾經是有過悠久且不光彩的歷史的。19世紀的歐洲人通過對女同性戀的陰蒂的測量，以及男同性戀的臀部的測量來判斷雞姦犯，並加以刑罰。20世紀，西方又有好幾次偽科學地「宣布發現同性戀基因」「同性戀大腦結構」。到今天民科盛行的時代，我們又多出很多例如「同性戀無名指」「同性戀掌紋」等等令人啼笑皆非的流言。


這類想法經久不衰，從古希臘到19世紀科學興起的時代，哪裡都有相貌決定人性的支持者。在中國我們將這類操作稱作面相學或者相面。有些會通過測量某人的前額和鼻子來判斷一個人是誠實的還是有罪的。如今在大數據和人工智慧時代，這種想法又重新興起：大數據和人工智慧可以識別犯罪分子、高智商人士、弱智、同性戀等觀念和研究又層出不窮。面孔的偏見似乎永遠不會消失。


（Giambattista della Porta的 De humana physiognomonia libri IIII（1586））

其中通過人類和動物長相的相似點進行分析


Kosinski和Wang在論文中清楚地表明了「外貌決定論」或者「機器相面」的危險，並指出「這種做法實際上是科學、迷信和種族主義的混合物。」


更加恐怖的技術應用讓人脊背發涼。我們知道在很多國家同性戀仍然會被迫害甚至處以死刑，例如在沙烏地阿拉伯和車臣。如果在這些地方，有人決定製作一個人工智慧Gaydar，後果會是怎樣？

 

 

往期文章




往期【壁虎科學】





 


相關焦點

  • 美國研發AI同志雷達準確度達9成
    你有同志雷達(gaydar)嗎?美國史丹佛大學一項新研究顯示,只要根據臉部的照片,人工智慧(AI)就能判斷出一個人是同性戀還是異性戀,且準確度最高可達到9成。綜合外媒報導,史丹佛大學助理教授柯辛基(Michael Kosinki)與他的團隊,以美國交友網站3.5萬名男女會員照片做為樣本,透過機器學習技術研發出一套AI同志雷達演算法,並將測試結果刊登在《人格與社會心理學期刊》上。
  • 如何識別同性戀同志雷達
    「同志雷達」指的是基於間接信息（如一個人的語言模式或動作等）來分辨一個人是同性戀還是異性戀的能力。
  • 雷達同志逝世
    中國共產黨優秀黨員，中國作家協會全國委員會名譽委員，中國作家協會創作研究部原主任，中國小說學會會長，當代著名文學評論家、散文家雷達同志因病醫治無效
  • 同志雷達真的存在嗎
    「同志雷達」指的是基於間接信息（如一個人的語言模式或動作等）來分辨一個人是同性戀還是異性戀的能力。
  • 你知道「同志雷達」嗎？真有點準
    「同志雷達」指的是基於間接信息（如一個人的語言模式或動作等）來分辨一個人是同性戀還是異性戀的能力。各種人會為了各種目的而打開自己的「同志雷達」。比如說，同性戀者會用這個來解讀一個人的調情，而直男直女們也許只是為了知道「誰是基」。那麼，這種內置「雷達」的準確率有多高？探測的具體又是哪些指標？
  • 弦論是偽科學嗎?一個沒有經驗檢驗的理論還是科學嗎?
    這是幾十年前最有影響力的科學哲學家之一卡爾波普爾得出的結論。波普爾對他所謂的分界問題很感興趣，即如何區別科學和偽科學。他提出了一個簡單的標準:可證偽性。一個理論若要被認為是科學的，就必須至少在原則上證明它是可錯的。波普爾對愛因斯坦的理論印象深刻，因為它在1919年得到了驚人的證實，所以他認為相對論是優秀科學的典範。
  • 弦論是偽科學嗎？一個沒有經驗檢驗的理論還是科學嗎？
    這是幾十年前最有影響力的科學哲學家之一卡爾•波普爾得出的結論。波普爾對他所謂的分界問題很感興趣，即如何區別科學和偽科學。他提出了一個簡單的標準:可證偽性。一個理論若要被認為是科學的，就必須至少在原則上證明它是可錯的。
  • 哲學解析如何分辨科學與偽科學
    曾經的舊中國愚昧落後，江湖術士橫行，百姓深受其害，自新中國成立以來，科學知識得到了全面普及，人們使用科學來解釋世界中的一切現象，杜絕了封建迷信。但在嶄新的時代面前，我們又面臨新的挑戰，以龐氏騙局和傳銷為代表的新興騙局，披著靚麗的科學外衣，仍在不斷的迷惑眾人。
  • 科學和宗教、偽科學的區別
    原標題：科學和宗教、偽科學的區別 　　我們首先要說清楚科學是什麼，特別是科學有三個要素，然後馬上就會明白科學和宗教、偽科學的區別了。 　　宗教和偽科學也都聲稱掌握或者揭示了規律，但是由於並不符合科學的另外兩個要素，所以和科學有明顯的區別。 　　科學的第二個要素是科學的精神，包括三個內容：質疑、獨立、唯一。 　　「質疑」其實是最基本的科學精神，也就是對於以前的結果、結論，甚至廣泛得到證實和接受的理論體系都需要以懷疑的眼光進行審視。但是「質疑」並不完全等同於「懷疑」，更不是全面否定。
  • 關於宇宙是否為一個生物體的話題,是科學猜想,還是偽科學?
    本文參加百家號 #科學了不起# 系列徵文賽。網絡上常有人認為，宇宙就是一個巨大生物體的內部，所有的天體以及人類，都是在這個生物體中。甚至有人咄咄逼人的問：科學能夠證明不是這樣嗎？既然不能，又憑什麼不是這樣呢？其實這談不上科學或不科學問題，只是一個邏輯BUG。這個問題本身就是一個毫無邏輯的反科學思維。
  • 科學與偽科學兩者之間的親密關係
    科學是神聖的，大家都知道只要是科學的都是靠譜的，大家不知到的是科學也時有不靠譜的，我們把這種科學性的東西叫做偽科學。科學與偽科學之間有著很親密的關係，科學與偽科學就像是親密的兄弟倆，從小玩到大，相愛相殺就是科學與偽科學之間的關係。
  • 是不是同性戀, 看臉就知道, 美國研發同志雷達解析度高達90%
    是不是同性戀，看臉就知道，美國研發同志雷達解析度高達90%，這項AI同志雷達可以通過人臉識別判斷出這個人是否是同性戀，只需要掃描人臉也可以判斷，多張照片掃描後判斷率更為準確而科研人員們則說，這個技術有助於幫助研究同性戀是否是與生俱來的，到底是先天的還是後天的，而判斷同性戀來看，這些人從出生開始或許就是同性戀了，這和人體激素有關
  • 教你辨別什麼是偽科學,科學理論的標準是什麼?
    什麼是偽科學？偽科學是一種假科學，它基於錯誤或不存在的科學證據提出索賠。在大多數情況下，這些偽科學以一種使它們看似可能的方式提出主張，但對這些主張幾乎沒有經驗支持。圖形學，數字命理學和佔星學都是偽科學的例子。
  • 專家解析科學和偽科學的區別:看其是否有功利性
    不久前，中國科學報社發起百名院士聯合籤名，呼籲用科學精神抵制低俗迷信，在社會上引起巨大反響，很多媒體積極響應。　　那麼，究竟是什麼力量在推動這些偽科學的流行？公眾該如何辨識科學與偽科學？近日，中國科協舉辦「科學家與媒體面對面」活動，邀請反偽科學領域的知名人士，逐一解答了這些問題。
  • 同性戀有「感應雷達」?
    科學家表示，同性戀人群的確有一個類似內置雷達的感應體系能幫他們搜尋到同類。This sixth sense, or 'gaydar', ensures they pay more attention to detail, allowing
  • 你以為人工智慧看出了「直」或「彎」?它只是看出了你的偏見
    但批評家卻認為，這只是披上了人工智慧外衣的偽科學和面相學。這些早已被西方科學世界摒棄的落後觀念，如今在新科技的掩飾下，重新抬頭。研究的狹隘性斯坦福的研究給出了一個看似很高的判斷精確度：當人工智慧對單張照片分析時，它猜對圖中男性性取向的機率為 81%，而女性則為 71%。
  • 神秘學和玄學是不是偽科學?偽科學的定義!
    宗教是不是偽科學？偽科學的定義是什麼！偽科學（pseudoscience）是已經被實踐（包括科學實驗）證偽、但仍然當做科學予以宣傳推廣的理論假說或假設。在人類科學發展過程中，理論假說或假設往往是科學發現的拐杖。
  • 科學與偽科學區別在哪裡,有哪些特徵?
    教育，不只是要教「科學」知識，也要教如何分辨「科學」跟「偽科學」。學習，不單要學「科學」知識，更重要的是學會「科學觀」。1959年，英國劍橋的一位院士史諾（C.P.Snow），發表了一場轟動學界的演講：「兩種文化與科學革命」。
  • 量子力學到底是科學還是偽科學？看後才明白怎麼回事
    最近網絡上流行一種說法：量子力學其實是偽科學。那麼到底是不是這樣呢？今天我來談談這個問題。首先要明白「量子力學是偽科學」這種觀點到底是來源於啥？其實主要來源於量子力學的一個概念「疊加態」，這個狀態我前面寫了文章專門講解過，就是說一個微觀粒子可以同時擁有兩個運動狀態，比如同時處於A和B兩處，同時擁有兩種不同的速度。