抵制廢棄文化!圖靈獎得主Judea Pearl聯手21名學者發表公開信

2021-01-10 新智元

【新智元導讀】2020年年末,圖靈獎得主Judea Pearl,機器學習牛人Pedro Domingos, 量子計算牛人Scott Aaronson等22人籤署了一封致ACM的公開信,要求重塑學術界「言論自由」的風氣。對此,David Karger進行了公開反駁,而隨後Pedro Domingos出面對David Karger進行反駁,指責其看法是「廢棄文化」。

科學,是最接近真理的那門學問。

科學家,就如同科學通向真理的「媒介」,通過他們的學術研究,我們得以了解世界的真實模樣。

然而,就在他們為科學發聲時,卻總是因為身份、種族、國籍或一些言論問題,讓科學理念無法正當地傳播出去。

科學需要「自由」嗎?至少,以圖靈獎得主Judea Pearl,機器學習牛人Pedro Domingos,量子計算牛人 Scott Aaronson等人為代表的22位科學家是這樣認為的,他們於2020年末聯名向美國計算機協會ACM發起一封信,「聲討」一切對科學家進行人身攻擊的行為,呼籲建設一個更加多樣化和包容的社會。

但正如一個科學觀點會在業界引起廣泛討論一樣,這封聯名信也引發了不小的風波。

人工智慧專家David Karger隨後發文譴責該行為的不妥之處,稱其缺乏實際意義。

22位聯名者之一的Pedro Domingos再次發表不滿,並強調信中的觀點——那些抵制科學家本人的行為,不應被忽視。

似乎,「廢棄文化」的火焰正在學術圈兒燃燒。

22名學者籤署致ACM的聯名信

2020年12月29日,22名計算機科學領域的教授向「ACM通訊」發了一封聯名信,全文內容如下:

尊敬的ACM通訊編輯部,

我們是一群研究人員、行業專家、學者和教育工作者,我們帶著悲傷和警惕的心情寫下了這封信,因為出現了越來越多的打壓行為,企圖限制自由和不受約束的科學研究和辯論。這些行為包括「呼籲學術抵制」、「試圖解僱員工」、對「麻煩的」個人進行圍攻等等。我們支持對「如何建設一個更加多樣化和包容的社會」的討論; 意見不同也是自然的。我們譴責一切強迫科學活動支持或反對某種社會政治信仰、價值觀或態度的做法,包括阻止研究人員自由選擇研究內容,或限制科研相關問題的自由討論。

這樣的行為與科學探究的本質是背道而馳的,科學探究的進步往往得益於對那些別人認為難以置信、平淡乏味或者錯誤的東西的追求。辯論必須不受事先限制,使用公開羞辱或類似手段來限制科學研究和討論的範圍是倒退的做法,違反了 ACM 道德準則所表達的價值觀。當這些行為針對的是年輕的同行和學生這些弱勢群體時,尤其如此。

我們敦促學界重申其核心原則,即:

1. 科學工作的判定應以科學價值為依據,不受研究人員的身份或個人觀點的影響

2. 科學界就某一觀點或主題的討論和辯論必須不受事先限制

3. 任何人都不應該因為其個人觀點或政治觀點、宗教、國籍、種族、性別或性取向而受到騷擾或攻擊

科學事業應該建立在相互尊重、使用友好的語言和專業行為的基礎上。事實上,科學界的所有分歧,無論多麼激烈或令人擔憂,都應該通過爭論和說服來解決,而不是通過人身攻擊或強硬拒絕持不同觀點的人。

簡而言之,挑戰和辯論的想法總是可以接受的,並且應該得到鼓勵。但是對持這些想法的人進行邊緣化、恐嚇、或者攻擊卻並不是。

反對聲如期而至,AI專家批其缺乏實際意義

David Karger是麻省理工學院計算機科學和人工智慧實驗室(CSAIL)的一名成員。

他從這封聯名信的三個主要觀點開始進行了反駁。

第一,科學工作的判定應以科學價值為依據,不受研究人員的身份或個人觀點的影響。

對於第一個觀點,David Karger認為這是絕對正確的,這個原則就是為什麼會議進行盲審文章的原因: 當評審科學工作時,我們不知道作者是誰,這迫使同行完全根據它的價值來進行評判。那麼,如果這個問題解決了,請願書為什麼還要提出來呢?Karger給出了兩種可能的解釋,但他都不同意。

首先,請願書可能是針對某些情況(面對一些請願書的作者) :比如一位受人尊敬的科學家發表了傷害他人的言論,因此招致學界的譴責。但這是對一個科學家的判斷,而不是科學,所以第一個觀點是無關緊要的。

其次,這份請願書可能是為了解決爭議,比如最近Nature Communications發表了一篇論文,聲稱「女性科學家的導師制有負面影響」,引起了巨大的負面關注,最終被作者撤回。但是第一個觀點在這裡也是無關緊要的。儘管不喜歡這項研究的社會影響的人們將注意力引向了這項研究,但撤回這項研究是因為他們意識到這篇論文中的科學性是有缺陷的。這種有缺陷的科學使其通過了同行評議,這是該體系的一個缺陷。有人可能會說,這篇論文受到更仔細的科學審查,這在某種程度上是不公平的,但是,導致修改後的判決撤回的肯定是「科學」,而不是「作者的個人觀點」。

為了給出一個最好的解釋,David Karger提出了另一種可能性。假設某位科學家從事偉大的工作,但卻公開宣稱「某個種族或性別是低等的」。假設這個人把他的論文提交給一個會議,那麼該會議是否應該拒絕評審這篇論文?David Karger認為如果拒絕接受論文是非常過分的做法,但如果接受,卻不讓這位科學家有機會出席會議作介紹,則是「非常恰當」的做法。拒絕「某個人」而非「科學研究」

他認為可以找一些代理人來會議上做演示。如果這位科學家對代理人的陳述感到不舒服,他仍然可以在 Arxiv 上發表他的研究成果,而且相信科學家也不會因為作者的個人觀點如何而放棄「引用」該論文。

最後這個例子指出了David Karger想反對的第一點的最後一個潛臺詞: 當科學是好的時候,我們有義務尊重、欽佩或者感謝那位做出這項工作的科學家。但如果這位偉大的科學家是個「混蛋」,我們可以拒絕和他接觸,而這些做法都不是在評判科學,而是針對個人。

對此,聯名信發起人之一Pedro Domingos出面回應:

首先,對於David Karger所說的「第一點是絕對正確的無需辯護,同行盲審會解決這個問題」,Pedro Domingos認為事實並非如此: 「盲審並不能阻止研究人員在論文發表後遭到人身攻擊,不能阻止他們在論文發表前不做不符合規範的研究,或者在研究過程的每一步都遭到騷擾和壓制」。廢棄文化無處不在: 在大學、公司、研究實驗室、教室、會議、非正式聚會和郵件列表中都能感受到。反對它的人有被解僱、被排斥、被敵對等風險,而這些都不是盲審所能避免的。Pedro Domingos認為Karger 的觀點說明了他對廢棄文化的本質和程度嚴重缺乏認識。

同時對於「攻擊科學家並不是攻擊科學」,Pedro Domingos認為這不是重點,問題出在因為某位科學家而導致攻擊科學的時候。對於Karger所說的《自然通訊》論文的例子,Pedro Domingos認為「這是令人震驚的天真」: 為什麼另一篇論文由同樣的作者發表,採用了類似的方法,但恰好與意識形態一致,而沒有受到攻擊和撤銷?根據是否符合意識形態設立兩種論文評判標準也可以嗎?這對由此產生的研究主體的平衡性、客觀性和可信度有什麼影響?

然後 Karger 認為,即使一個科學家已經做了有資格發表的研究,如果她的某些與論文不相關的觀點是 Karger 反對的,那麼不允許她參加會議發表論文也是可以的。但是,即使你同意這種觀點(我不同意) ,這顯然是讓反對意見主導論文的接受。因此,在說了第一點不需要辯護之後,他自己又提供了另一個例子來說明為什麼要這樣做。

第二,科學界就某一觀點或主題的討論和辯論必須不受事先限制。

對於第二點,David Karger認為沒有什麼事先的約束,因為沒有什麼可以阻止他在學術社區裡說任何想說的話,在 Facebook 上發布任何想發布的東西,或者在會議或期刊投稿中寫任何想寫的東西。所以為了理解這一點,必須拓寬解釋。

一種可能的解釋可以追溯到他已經討論和駁回的第一點:把拒絕科學家和拒絕科學混為一談。另一個原因是,作者攻擊那些警告某些類型的提交將被拒絕的聲明。例如,NSF 聲明,如果提交的提案沒有討論研究對社會的影響的「更廣泛的影響聲明」 ,將被拒絕。同樣,NeurIPS 會議已經開始要求在每篇論文中就潛在的更廣泛的影響包括道德方面提交聲明。當然,這些並沒有真正限制我的討論,但它確實告訴我,某些類型的文章不會被接受或出版。但這並不是什麼新鮮事: 每次徵集論文都會描述他們正在尋找的主題,同時暗含著關於其他主題的論文會被拒絕的指導意見。這是一個非常明確的「話題事先約束」所以關於這一點存在一些致命的模糊性,作者沒能夠解釋他們認為可以接受的事先約束有哪些。

對此,Pedro Domingos的回應是:

Karger說,這個原則完全得到了滿足,因為在主題或觀點上沒有事先約束。這再次揭示了對於科學家面臨的社會壓力的一種「令人震驚的天真」。Karger 聲稱,例如,NeurIPS 要求更廣泛的影響報告和道德審查並不能真正限制什麼論文可以發表,因為這與列出會議感興趣的主題沒有什麼不同。儘管 NeurIPS 在徵集論文時明確表示「無論論文的科學質量或貢獻如何」,但提交的論文還是可能會被拒絕,原因是提交的方法、應用或數據會造成或加強不公平的偏見。這難道不是明確的限制嗎?尤其是,受意識形態驅使的限制。

第三,任何人都不應該因為其個人觀點或政治觀點、宗教、國籍、種族、性別或性取向而受到騷擾或攻擊。

對於第三點,David Karger認為有一點讓他徹底否定了這種說法,就是:「基於個人觀點或其政治觀點的攻擊」。

他想不出在任何情況下,基於宗教、國籍、種族、性別或性取向來攻擊某人是合適的。這些是與生俱來且無法控制的個體特徵,應該永遠珍視或至少接受它們的多樣性。而騷擾和攻擊,在目前的網際網路上就是明確地尋求傷害一個人,就像身體上的暴力一樣,應該在同樣的情況下被拒絕。

此外,David Karger還猜測這封聯名信的「動機」是因為一些「籤署者的言論遭到了強烈反對」,而發聯名信最終是為了防止這種反對。但他不支持這種做法,David Karger認為有些反對是合理的,有些是不合理的。但總而言之,他支持在領域內發生的越來越多的反對言論。

想像一下,如果我們把這個規則應用到當下的新冠隔離,說我們不能隔離任何人,因為強迫未感染者隔離是不公平的。強制實行這樣的隔離在個人層面上可能是不公平的,但卻有利於整個社會的正確選擇。

對於第三點,Pedro Domingos的回應是:

Karger說他同意這一點,但是他也同意,但他強烈贊成基於個人觀點和政治觀點的攻擊。他認為這些攻擊不應該是人身攻擊,但這正是我們看得太多的地方。而且,儘管他這樣說,Karger似乎很難區分對個人的攻擊和對觀點的攻擊,特別是說「應該基於個人的觀點來攻擊他們」,他這樣的觀點表明了他距廢棄文化僅一步之遙。

對於Karger最後所說的: 「我支持我們領域越來越多的反對言論」,他沒有明確表示他不支持哪種形式的反對。他認為我們需要反擊種族主義和性別歧視,在檢查時有一些「虛假的錯誤」是可以的,因為我們目前有太多的「虛假的正確」。但恰恰相反,當前的學術界的天平強烈傾向於到處都能看到種族主義和性別歧視,將這種誤解放大到荒謬的極端,並犧牲任何與之相牴觸的人。Pedro Domingos還拿自己作為例子: 「在質疑了NeurIPS 對道德審查和更廣泛的影響陳述的要求之後,我被稱為種族主義者、性別歧視者、厭女者和偏執狂。這是Karger說的所謂的「虛假的錯誤」嗎?還是他有針對性地說明了許多人對廢棄文化的漠不關心,而這正是我們聯名信試圖抗爭的?」

廢棄文化「火出圈」

因為網際網路,無名之輩可以一夜之間聲名鵲起;因為網際網路,公眾人物也能一夜之間聲名掃地,更嚴重的是遭遇「廢棄」(cancelled)。隨著被廢棄的公眾人物越來越多,「廢棄文化」(cancel culture)也成了網絡熱詞。

作為cancel的新用法,「廢棄某人」,通常針對知名人物,意味著「不再對其給予支持」,具體行為包括:抵制某演員參演的電影,拒絕閱讀或宣傳某作家的作品等。

至於廢棄某人的原因,「往往是被廢棄者表達了令人反感的言論,或做出了讓人難以接受的行為,以致繼續為此人出資會留下不良印象」。

但廢棄文化之所以愈演愈烈,還是因為它藉助了一場又一場的社會運動,比如今年的「黑命貴」(Black Lives Matter)。正是在這些社會運動的助推下,廢棄文化瞄準的對象由文化圈拓展到政治、商業和學術等各個領域,廢棄的方式也從抵製作品升級為要求道歉,甚至強制辭職。

廢棄文化「火出圈」的標誌是,美國總統川普7月4日在國慶演說中指責左派將廢棄文化當作「政治武器」,「讓人丟掉工作、羞辱持異見者、要求任何和他們看法不同的人完全屈從」。儘管川普誇大其詞的特性世人皆知,但民調顯示,的確有不少網民擔心,廢棄文化已走得太遠。

在廢棄文化的一片喧囂中,有人指出了其背後的冷峻事實:它關乎如何就公眾人物的惡劣行為向其追責。相比讓公眾人物失去身份甚至飯碗,廢棄文化更應關心的,或許是建立新的道德和社會規範,以及明確一旦違反這些規範時,應採取何種集體反應。

借用《雙城記》中的一句話說:前方無所不有,前方也一無所有(we had everything before us, we had nothing before us)

究竟是哪一個,還要靠我們自己選擇。

參考連結:

https://docs.google.com/document/d/1-KM6yc416Gh1wue92DHReoyZqheIaIM23fkz0KwOpkw/edit

https://twitter.com/karger/status/1345537343705509893

https://pedromdd.medium.com/

相關焦點

  • 從先鋒到批判者:圖靈獎得主Judea Pearl的世界
    Judea Pearl於1936年出生,以色列裔美國人,美國著名計算機科學家和哲學家,2011年圖靈獎得主,被稱為「貝葉斯網絡之父」。Judea Pearl以倡導人工智慧的概率方法和貝葉斯網絡的發展而聞名,他還建立了基於結構模型的因果和反事實推理的理論。
  • 圖靈、圖靈機、圖靈獎
    1966年由美國計算機協會ACM設「圖靈獎」,是計算機界最負盛名、最崇高的一個獎項,有「計算機界的諾貝爾獎」之稱,每年評選出一名計算機科學家。目前獲得「圖靈獎」的華人學者僅有2000年圖靈獎得主姚期智教授。(已入中國籍)。圖靈對於人工智慧的發展有諸多貢獻,提出了一種用於判定機器是否具有智能的試驗方法,即圖靈試驗,至今,每年都有試驗的比賽。
  • 圖靈獎得主教出來的圖靈班到底多牛?
    領銜建立圖靈班的大佬就是約翰·霍普克洛夫特,他是當今世界赫赫有名的頂級計算機科學家。2017年5月,約翰·霍普克洛夫特宣布加入北京大學信息科學技術學院,成為首位入職北大的圖靈獎得主。有了這兩位圖靈獎得主保駕護航,再加上號稱北大「第一學府第一系」——數學科學院的教學資源,又引入了卡內基梅隆大學、康奈爾大學等國際頂級高校的課程,學霸們在這裡每天都能接觸到全球最新、最全的計算機教育。
  • 你一定不知道的12位圖靈獎得主
    後來我再回答這個問題時尾加一句:C語言之父是圖靈獎得主,Java語言之父目前還沒得到這個獎。我發現學生表情有很大的變化.。圖靈獎(Turing Award)於1966年設立,獎勵在計算機領域作出傑出貢獻的個人(1966年至2019年共73名獲獎者)。
  • 2021北京三支一扶公基備考人文知識:圖靈獎_北京中公教育
    圖靈獎是美國計算機協會於1966年設立的,又叫"A.M.圖靈獎",專門獎勵那些對計算機事業作出重要貢獻的個人。其名稱取自計算機科學的先驅英國科學家艾倫·圖靈,這個獎設立目的之一是紀念這位科學家。下面我們就將圖靈獎的相關考點內容和各位考生進行分享。1.圖靈簡介艾倫·麥席森·圖靈,英國數學家、邏輯學家,被稱為計算機之父,人工智慧之父。
  • 這可能是今年最硬核的AI交流會,李飛飛、圖靈獎得主Pearl等共同探討AI未來
    雖然今年Bengio沒有出席,但是卻集結了李飛飛、圖靈獎得主Judea Pearl、強化學習泰鬥Rich Sutton、諾獎得主Daniel Kahneman等16位AI行業知名學者。去年辯論的主題是大數據和機器學習能否達到通用智能。而這次大會的主題是——AI辯論2:推進人工智慧。
  • CMU教授邢波出任全球最富AI大學校長,曾師從圖靈獎得主
    剛剛,重磅消息傳來,著名華人學者邢波將出任該校校長一職。邢波教授的學術生涯充滿了傳奇色彩,他從分子生物學phd轉向UCB計算機,深得圖靈獎得主青睞。據悉,MBZUAI首個學年計劃將從2021年1月開始。
  • 圖靈獎得主David Patterson為你解惑
    在主論壇上,圖靈獎得主David Patterson將帶來宗師課《體系結構創新加速人工智慧》。人工智慧已經成為新一輪產業變革的核心驅動力,正在對世界經濟、社會進步和人類生活產生極其深刻的影響。在活動期間,大會也將進行上海白玉蘭開源開放研究院揭牌、發布《人工智慧開源開放報告》、WAIC 雲帆獎。在今年的開發日主論壇上,機器之心聯合上海交通大學人工智慧研究院特邀請到了多位重磅嘉賓,其中就包括 2017 年圖靈獎得主、計算機體系結構宗師 David Patterson。
  • 諾獎得主說「我的工作像重慶」
    第1眼-重慶廣電消息,在最近召開的上海世界頂尖科學家論壇上,2013年諾貝爾化學獎獲得者麥可·萊維特在發表公開演說時智博會期間,包括麥可·萊維特在內的多位專家學者來到重慶,13位諾貝爾獎得主,4位圖靈獎得主,2名菲爾茲獎得主、7位中國兩院院士匯聚一堂,在2019重慶全球科學家高峰會上進行了「智慧碰撞」。
  • CMU教授邢波出任全球最富AI大學校長,曾師從圖靈獎得主
    剛剛,重磅消息傳來,著名華人學者邢波將出任該校校長一職。邢波教授的學術生涯充滿了傳奇色彩,他從分子生物學phd轉向UCB計算機,深得圖靈獎得主青睞。據悉,MBZUAI首個學年計劃將從2021年1月開始。
  • 圖靈獎唯一中國得主,成為同濟大學名譽教授
    圖靈獎唯一中國得主,成為同濟大學名譽教授 2020-08-15 15:29 來源:澎湃新聞·澎湃號·湃客
  • 悼念圖靈獎得主、ML語言之父Robin Milner
    據外媒消息,1991年圖靈獎得主Robin Milner於2010年3月20日(他妻子葬禮後的第三天)在英國劍橋辭世,享年76歲。他是他是英國皇家學會成員,ACM會士,美國工程院外籍院士。貢獻他獲得圖靈獎的主要貢獻是:1. LCF,Scott可計算函數邏輯(Logic of Computable Functions)的機械化,可能是第一個基於理論但實用的計算機輔助證明工具。2. ML,第一個具有多態的類型推演和具有類型安全異常處理機制的程式語言。其設計目的就是為了進行LCF證明。
  • 中科院「愛因斯坦講席教授」、圖靈獎得主Edmund Clarke教授訪問...
    美國卡內基梅隆大學計算機系教授、中國科學院「愛因斯坦講席教授」、圖靈獎得主EdmundClarke於10月20日至27日對蘇州研究院進行了為期8天的學術訪問與交流。 Clarke教授於2007年和另外兩位科學家E.Allen Emerson和Joseph Sifakis一同分享了「圖靈獎」,以表彰他們對模型檢查理論與技術做出的奠基性貢獻。目前模型檢查技術已成為一個被廣泛應用在硬體和軟體工業中非常有效的驗證技術。
  • 2000年圖靈獎得主姚期智:我對科學創新的一點看法
    2000年圖靈獎得主姚期智:我對科學創新的一點看法 2020-11-25 15:43 來源:澎湃新聞·澎湃號·湃客
  • Judea Pearl之後,Michael Jordan獲2021年Grenander獎!
    作者 | 陳彩嫻編輯 | 青暮美國數學會最新消息:2021年格林納德隨機理論與建模獎授予著名的「機器學習之父」Michael I. Jordan,以表彰他對機器學習所做出的奠基性貢獻,尤其體現在無監督學習、概率計算,以及用計算平衡統計保真度的核心理論。
  • 阿里青橙獎名單公布,23位院士、2位圖靈獎得主推薦
    青橙獎是阿里巴巴達摩院在2018年發起的公益性評選,面向35歲及以下的中國青年學者,發掘和支持對科技進步有關鍵推動作用的人物。除了獎金,獲獎選手還將得到阿里提供的開放數據、應用場景等全方位科研支持。  青橙獎的評選不唯資歷、不唯履歷、不唯論文、不唯門第,每年都會吸引眾多頂尖青年學者的申報。
  • 引入「諾獎」得主,不能只看「帽子」
    比如,香港中文大學(深圳)在短短幾年內,就已經建立起三個諾貝爾獎科學家實驗室,引進了四位諾獎得主。該校更是計劃開設「諾貝爾班」,為學生配備包括諾爾貝獎得主、圖靈獎得主、菲爾茲獎得主等在內的世界一流導師。「引進諾獎得主是目前高校人才爭奪戰的一部分,只不過它把人才爭奪戰的戰火燒向了國外。」
  • 神經符號系統、因果推理、跨學科交互,李飛飛、Judea Pearl等16名學者共同探討AI未來
    今年,辯論升級,16 位學者從跨學科角度探討 AI 未來。去年,紐約大學心理學和神經科學教授 Gary Marcus 和深度學習先驅、2018 年圖靈獎得主 Yoshua Bengio 就 AI 技術的發展方向展開了一場現場辯論。今年,Gary Marcus 與 Montreal.AI 負責人 Vincent Boucher 舉辦了第二場辯論。
  • 圖靈獎得主姚期智:辭去終身教授,賣掉美國房子,毅然回到祖國
    姚期智,1946年出生於中國上海,由於父母工作原因,他從小在中國臺灣長大,進入學校以後,姚期智便表現出了過人的聰慧,各科成績均名列前茅,21歲那年便順利進入哈佛大學,他的老師格拉肖,乃1979年諾貝爾物理學獎的得主。
  • 最年輕圖靈獎得主:計算機是數學好的女性的完美學科
    美國加州大學伯克利分校理論計算所主任莎菲·戈德瓦瑟(Shafi Goldwasser)在世界頂尖科學家論壇(上海·滴水湖)上發表題為《密碼學和機器學習》的演講,提醒大數據時代的隱私安全問題。這位最年輕的圖靈獎得主觀察到,機器學習和大數據促成了世界範圍內的權力轉移。「看看2001年市值最高的公司,都是通用電氣和埃克森美孚之類的能源企業;2016年都是大數據公司。