谷歌AI掌門Jeff Dean離奇躺槍 發生了什麼?

2020-12-14 手機鳳凰網

(原標題:LeCun之後Jeff Dean離奇躺槍,哥大黑人女博士:你們得引用我!)

金磊 賈浩楠 發自 凹非寺

這幾天的Twitter,真是有夠亂的。

先是深度學習三巨頭之一的Yann LeCun,因被指責為有種族歧視嫌疑的PULSE算法辯護,在經歷長達2周的唇槍舌戰後,宣布退出推特。

就在近日,谷歌 AI 掌門人 Jeff Dean 也被拖下水——因為他關注了一名與種族歧視相關的博主。

指控者是哥倫比亞大學的一位黑人女性研究員、PresGAN 作者,Adji B. Dieng (以下簡稱A姐)。

Jeff Dean這次中槍,真的很冤

與LeCun主動對PULSE事件發表觀點引來炮轟不同,可憐的Jeff Dean未置一詞,甚至都沒有圍觀這次的事件,但還是逃不過被所謂「種族主義」拖下水。

首先認識一下事件的主角:

Adji B. Dieng,來自非洲國家塞內加爾,在哥倫比亞大學讀書。主要研究方向是概率圖形建模和深度學習結合,為結構化的高維數據(如文本)設計模型。

從2017年起,Adji連續幾年在ICLR、NeurIPS等頂會參與組織workshop,主要方向是深度生成模型和結構化數據。

2018年,Adji在Facebook AI 的LeCun小組中做實習生。

2019年她獲得了谷歌AI博士獎學金。

此外,她的個人主頁上還詳細列舉了她作為女性科研人員獲得的專項榮譽和參加過的各種研討會。

那麼她又是怎麼跟Jeff Dean扯上關係的?

快速了解一下這個美國特色學術圈的爭議事件。

北京時間6月29日晚8點左右,DeepMind官方發了一條推特,預告了由DeepMind兩位科學家Mihaela RoscaJeff Donahue帶來GAN的普及課程。

這是一系列很基礎的科普課,主要內容是深度學習中的最常見的GAN模型,包括GAN的發展、優勢、常見GAN的不同衍生模型、和相關前沿創新。

這本身是一個再普通不過的小事,但是DeepMind隨後發布的課程Note,卻引火燒身。

課程Note是晚上8:57發布。

不到一小時,事件的主角A姐就發推@DeepMind,責問他們:

為什麼GAN的課程中沒有提到她在DeepMind的研究成果PresGAN

她毫不客氣地指出:「難道因為我是黑人女性嗎?」、「引用我!」

這個理由著實讓中國讀者哭笑不得,事件本身根本不是有關論文抄襲不註明引用的學術不端

而是一節科普課沒有提到她的成果,讓A姐不高興了。

隨後她又加入推特上已有的話題#CiteBlackWomen#(引用黑人女性),試圖引起更多關注。

她說自己的這篇論文,去年就公布在arXiv上,9個月來只有區區4次引用(其中一次還是她自己),就是因為她是黑人女性。假如主要研究者是一個白人男性,情況肯定大不相同。

至此,這件事還和Jeff Dean毫無關係。

但情況變化之快,轉折之突然,讓人錯愕。

加入討論的網友中有人支持她的立場,認為她的論文很有價值,不應該被遺漏;

但另一半網友認為她純屬碰瓷,研讀她的PresGAN論文,成果一般般,每天在arXiv上都有大量這樣的論文掛出來,根本沒有重要到非介紹不可的程度。

就是這個@Gwern的網友回復,引起了Adji Bousso Dieng的強烈不滿。

但是,她沒有用PresGAN本身的學術價值去反駁。她選擇揪出Gwern的「黑料」。

她翻出了一篇Gwern之前撰寫的,有關試管嬰兒技術中智力基因性狀選擇的成本研究文章,以此,她指控Gwern是一個優生主義者,所以她拒絕與Gwern進行任何對話。

解釋一下,「優生主義」是一種試圖挑選優秀遺傳性狀、改良人種的運動,希特勒領導的納粹德國尤其熱衷,並犯下了很多反人類罪行。

這個詞在西方語境下極其敏感,提出這樣的指控甚至比「種族主義」更加嚴重。

優生學是一門正規的學科,沒有任何負面含義,這一點要弄清楚。

而這篇文章是否確定是「優生主義」,還沒有任何專家或機構評價,A姐自己也沒給出證據。

關鍵轉折出現了,A姐隨後在Gwern的關注者列表中,發現了Jeff Dean

於是,她立刻主動@Jeff Dean,並意味深長地對Jeff Dean喊話:

你也關注了這個人,但我相信你不知道他是一個優生主義者

這種喊話,給人一種強行要求Jeff Dean「沒病出來走兩步」的感覺……

可憐Jeff Dean,一沒發聲,二沒關注事件,三不是GAN發明者,就這樣挨了來路不明的一槍。

順便一說,GAN之父Goodfellow也關注了Gwern,A姐在「followers you know」中肯定能看到他,但她卻沒有@Goodfellow 。

目前,Jeff Dean和DeepMind都沒有回應。

但是,Jeff Dean被A姐人為置於了一個進退兩難的局面:支持她,很多同行不認可;

保持沉默或不支持,會被政治正確圍攻;

如實表達個人看法,有可能面臨和LeCun一樣的局面。

Jeff本人可能還在發愁怎麼回復,但推特網友已經吵翻了天。

截止發稿,A姐發推約40個小時左右,推特下面大概有1/3留言表示支持她,認為這是對女性對黑人嚴重的歧視。

約1/5的留言認為她論文沒價值,在碰瓷搏出位,其中一個重要觀點是,這篇PresGAN的論文仍然未經同行評審,而業內較少或不引用這樣的文章並沒有錯,不是啥事都跟種族、性別有關

剩下的人大部分是騎牆態度,兩邊都不得罪,說一些不犯錯但沒有實質內容的話。

但確實有個別人指出了關鍵,建議A姐應該用論文本身說話,詳細說明為什麼不應該遺漏她的PresGAN,但Adji Bousso至今沒有回覆。

A姐自己隨後又發推補充,她認為DeepMind可能不是故意漏掉她的成果,但這說明人們潛意識中的歧視問題更加嚴重

同時對於Reddit鎖帖,她表示不在乎,自己也根本不是什麼racial blur(淡化種族),她本人作為黑人女性很驕傲。

但是她一直沒就PresGAN本身做任何說明。

A姐主動拉業界大佬下水的舉動對錯先不論,她的關於PresGAN的研究到底價值幾何?

什麼是PresGAN?

那麼,PresGAN 到底是一個怎樣的研究呢?

方法的全稱叫做 Prescribed Generative Adversarial Networks,直譯過來就是「規定的GAN」。

這項研究於去年10月11日在 arXiv 上發表,時間已經長達9個月。

研究摘要的第一句話也是格外的醒目:

PresGAN 是一種強大的無監督學習方法。

並且還表示在性能方面已經達到了 SOTA 水平。

PresGAN 核心改良內容包括兩點:

將噪聲添加到密度網絡的輸出中,並優化了熵調節的對抗損失。

增加的噪聲使預測的對數似然性易於處理,並穩定了訓練過程。

在不同數據集上評估後,發現可以減輕模式崩潰並生成具有高感知質量的樣本。

從上表的數據中可以看到,FID指標,也就是計算真實圖像和生成圖像的特徵向量之間距離的一種度量,與其它方法相比,性能是最好的。

就傳統GAN與變分自編碼器(VAE)之間的預測對數似然性而言,PresGAN縮小了性能差距,如下表所示。

圈裡人如何看待PresGAN?

在各種數據集上性能表現都到了SOTA,生成圖像效果也不錯,為什麼圈內人對這項工作不買帳呢?

Reddit 網友們,從純學術角度給出了一些見解。

首先是對PresGAN的技術本身,有網友認為:

問題出在它就是直接沿襲GAN,所以看起確實有點奇怪。

有人還po出了一個GAN大雜燴的 GitHub 項目,提出了大大疑問:

項目裡有這麼多的GAN,(你覺得)有多少就應該被引用?

然後非常犀利地評論道:

關鍵是她的論文在任何方面都不突出。我看不出這篇論文為什麼就該被引用。

對A姐提出的質疑——為什麼後出現的 BigBIGAN 會在演講中被提及,而 PresGAN 卻沒有?

有網友給出了三個理由:

BigBIGAN的結果更令人印象深刻;

已被同行評議並發表在NeurIPS;

是Jeff Donahue寫的,他是演講的人之一。

我認為這三個都是非常合理的理由,來解釋為什麼會在演講中提到BigBIGAN,而不是PresGAN,這與種族/性別無關。

至於A姐對她論文引用量方面的抱怨,也有網友跳出來評論道:

如果大多數研究人員更關心新的研究,而不是擔心他們以前的工作有多少被引用,那他們的情況會好得多。

「This needs to stop!」

或許是隨著BLM活動的愈演愈烈,社交網絡中的機器學習圈子,最近也是瀰漫了一些別樣的味道。

有網友便「直擊七寸」地指出了這個問題。

包括Yann LeCun的事情,這種「有毒」的行為正充斥著 ML 社區。

每天都會產出大量的ML論文(難道篇篇都得被引用不成)。

而最為精闢的便是最後一句話:

不要把問題直接歸咎於種族主義和性別歧視!

網友情緒一天後爆發

就A姐事件發生一天後,廣大普通從業者們終於忍無可忍了。

一位名為yusuf-bengio的網友在Reddit的機器學習社區發帖,批駁當下機器學習圈子的8大毒瘤(toxicity problem)。帖子發出5小時,熱度已經1.2k。

這8個問題全都一針見血,毫不留情。

這其中既包括論文投稿的潛規則,也有動輒對別人群起攻之的怪像,總之這8個問題搞得機器學習社區烏煙瘴氣,其中4條直指「政治正確」。

在他看來:

1、LeCun只是理性討論,但對他的攻擊超出了合理的範圍。封殺別人、道德綁架,迫使別人沉默解決不了任何問題。

2、計算機領域少數族裔和女性比例低的問題一直存在,但是缺乏多樣性一直被當做藉口濫用,導致很多人不敢談論,怕被扣上種族主義和性別歧視的帽子,反而不利於解決問題。

3、道德標準的設定其實是美國標準,對之外地區沒有意義。

4、討論失去理性,變成了咒罵。Schmidhuber指責Hinton是小偷,Gebru說LeCun搞白人至上,Anandkumar稱Marcus性別歧視……

那麼,你覺得這些問題都是確實存在的嗎,它們又會把機器學習引向何方?

參考連結:

Reddit討論:

論文地址:

在阿里體系內,OceanBase資料庫支撐了支付寶、網商銀行等重要業務,已成為世界領先的資料庫產品。那麼其背後有哪些核心技術?

7月2號第三期直播,螞蟻集團OceanBase資料庫資深專家--韓富晟(顏然)將介紹資料庫發展演進歷史,並深入解析OceanBase實現資料庫的機制。

相關焦點

  • 谷歌AI 掌門人 Jeff Dean 獲 IEEE 馮諾依曼獎
    其中,谷歌高級研究員、AI 掌門 Jeff Dean 摘得了 IEEE 馮諾依曼獎,獲獎理由為「表彰其對大規模分布式計算系統和人工智慧系統的科學和工程貢獻」。1999年,他加入了初創期的 Google,成為谷歌的第 20 號員工。他的研究方向包括大規模分布式系統、機器學習、性能監控、壓縮技術、信息檢索、微處理器架構和編譯器優化。在加入谷歌后,Jeff Dean 曾設計並部署了 Google 廣告、抓取、索引和查詢服務系統的大部分內容,以及位於 Google 大部分產品下方的各種分布式計算基礎架構。
  • 谷歌員工又發聯名信起義了:Jeff Dean道歉,AI倫理學家回歸
    近日解僱AI倫理學家Timnit Gebru導致了谷歌內部員工起義的爆發;在解僱事件當天,谷歌還遭美國國家勞工關係委員會(NLRB)提起訴訟,其指控谷歌非法監視僱員,報復性解僱有興趣加入工會的僱員,也和Timnit Gebru有關。
  • 谷歌解僱風波:Jeff Dean辭退AI倫理家,非裔天才曾師從李飛飛
    難道谷歌在玩一招「調虎離山」? 據外媒報導,Gebru曾發給她的同事發郵件稱,上級要求她撤回一篇研究論文,但同時沒有提供任何其他信息,也沒說明論文有什麼問題,她壓根沒機會為自己辯護。她同時在郵件中表示,谷歌口口聲聲要實現多元化,卻沒有作出任何實質性改變。
  • 谷歌內訌升級,員工聯名要求Jeff Dean道歉,發生了什麼?
    憤怒之下,她向谷歌深度學習人工智慧研究團隊「谷歌大腦」的女性成員和「盟友」發送了一封電子郵件,講述了她在谷歌親身經歷過的她認為不公平的待遇,以及一些不受尊重的經歷。Timnit Gebru 認為,她的論文被駁回,違反了公司一直所倡導「構建負責任的 AI」的宗旨,在這樣的背景下發生這種事,猶如在傷口上撒鹽,起不到好的效果。
  • 谷歌內訌升級,員工聯名要求Jeff Dean道歉,發生了什麼?-虎嗅網
    憤怒之下,她向谷歌深度學習人工智慧研究團隊「谷歌大腦」的女性成員和「盟友」發送了一封電子郵件,講述了她在谷歌親身經歷過的她認為不公平的待遇,以及一些不受尊重的經歷。Timnit Gebru 認為,她的論文被駁回,違反了公司一直所倡導「構建負責任的 AI」的宗旨,在這樣的背景下發生這種事,猶如在傷口上撒鹽,起不到好的效果。
  • Jeff Dean親筆盤點谷歌AI 2019:日均2篇論文,縱橫16大方向
    2019年,Google在不同的背景下研究了這方面的問題:比如,他們檢查了哪些屬性影響了從無監督數據中學習的表示,以便更好地理解什麼因素能夠有助於良好的表示和有效的學習。例如,在GoogleTalk to Books中提問,「什麼香味能喚起回憶?」結果是,「對我來說,茉莉花的香味和烤盤的香味,讓我想起了我無憂無慮的童年。」
  • Jeff Dean在谷歌成眾矢之的:開除「論文不合格」AI倫理研究員,被...
    3日,Gebru公開了她發給谷歌Brain女員工和其他同事的郵件內容。原來,她一直希望發表她的一篇研究論文,但是一直遭到上級反對。在郵件裡,她還揭露了谷歌對黑人這一弱勢群體的不公平對待,以及對AI倫理的不重視。正是因為這封郵件,被爆出「不符合谷歌管理者的期望」,因而被解僱。Jeff Dean很快就在谷歌內部發郵件回應了此事。
  • 被指開除高級研究員,谷歌大神Jeff Dean回應:是她說不答應條件就離職
    這幾天,一位谷歌 AI 研究員的離職糾紛在社交媒體上愈演愈烈。12 月 3 日,這位研究員在推特上表示:「我因為一封寫給谷歌大腦女性成員和盟友的郵件被 Jeff Dean 開除了,公司帳號也被停掉了。這件事情發生得非常突然。」
  • 員工籤署聯名信:AI大神Jeff Dean必須道歉!
    直到事件發生之前,這篇論文一直沒有通過谷歌上級部門的內部評審。Gebru向AI部門負責人Jeff Dean發送郵件詢問原因,並要求Jeff Dean提供評審人員名單,否則她將離開谷歌。但這一要求遭到了Jeff Dean的拒絕,隨後,Gebru便收到了來自谷歌官方的辭退郵件。
  • 谷歌Jeff Dean回信反轉劇情,李飛飛學生被爆主動離職而非被辭退
    【新智元導讀】上周谷歌非裔倫理學家Timnit Gebru「被辭退」一事在Twitter與Reddit上吵的沸沸揚揚。僅在Timnit辭職一天後,便有超過4000名學術界、工業界和民間人士籤署一份聲明要求谷歌作出實質性改變。但根據谷歌AI老大Jeff Dean給出的回信中可以得知,Timnit其實是以辭職要挾,結果「如願以償」。
  • 谷歌AI掌門人Jeff Dean獲馮諾依曼獎
    Google 高級研究員(Senior Fellow)、AI掌門 Jeff Dean摘得本年度獎項,獲獎理由為「表彰其對大規模分布式計算系統和人工智慧系統的科學和工程貢獻」。此外,IEEE 創始人獎章(頒發給了美國博通公司創始人Henry Samueli)、 Jack S. Kilby 信號處理獎章等IEEE多項榮譽也已一併頒布。
  • 谷歌CEO為「Jeff Dean開除研究員」事件道歉,卻引發持續爭議
    我們會回顧已經發生的事情,確定所有值得學習的地方——考慮從消解策略到新方式等所有選項。Jeff Dean 和我已經對此進行談話,並將一同致力於此。谷歌工程師文化最優秀的地方就在於我們真誠地希望了解問題原因,並討論如何改進。第二,我們需要對一名傑出的黑人女性領導者以不快姿態離開谷歌的事實承擔責任。
  • 關於Google AI 的發展方向,掌門人 Jeff Dean 來揭秘
    雷鋒網註:【 圖片來源:WIRED 所有者:WIRED 】問:您做了一個關於製造新型計算機來驅動機器學習的研究報告,能否透露一下 Google 正在測試什麼新想法呢?不過,我們也在考慮一些即將到來的問題,考慮今天能做什麼,不能做什麼。另外,我們還想構建一個泛化到新任務的系統,如果能用更少的數據、更少的計算來做事情,這將很有趣。問:近期,在國際人工智慧頂級學術會議 NeurIPS 上,關於人工智慧應用程式的倫理問題頗受關注。
  • 谷歌CEO為「Jeff Dean開除研究員」事件道歉,卻引發持續爭議
    我們會回顧已經發生的事情,確定所有值得學習的地方——考慮從消解策略到新方式等所有選項。Jeff Dean 和我已經對此進行談話,並將一同致力於此。谷歌工程師文化最優秀的地方就在於我們真誠地希望了解問題原因,並討論如何改進。第二,我們需要對一名傑出的黑人女性領導者以不快姿態離開谷歌的事實承擔責任。
  • 員工籤署聯名信:AI大神Jeff Dean必須道歉
    信中還強調:公司必須進行結構性改革,以保證谷歌AI倫理研究工作可以繼續進行;他們不再向谷歌副總裁Megan Kacholia匯報工作,因為他已經失去了信任;公開承諾學術誠信,並對管理層進行種族素養培訓。目前,谷歌管理層還未對此事做出回應。
  • 谷歌傳奇Jeff Dean獲2021年IEEE馮諾依曼獎
    谷歌AI掌門人,知名學者Jeff Dean獲IEEE馮諾依曼獎。獲獎理由是「以表彰對大規模分布式計算機系統和人工智慧系統科學與工程的貢獻」。谷歌傳奇Jeff DeanJeff Dean,於1968年7月出生在夏威夷。他的父親安迪是一名熱帶疾病研究人員,他的母親維吉尼亞·李是一位會說六國語言的醫學人類學家。他跟父親兩人曾設計過一臺IMSAI 8080工具包電腦。
  • 國外AI 圈鬧翻天了!谷歌黑人女性 AI 倫理研究員「被離職」引發...
    需要注意的是,她曾與 LeCun 發生過爭執,在 AI 圈內小有名氣。當地時間 12 月 3 日晚,谷歌 Ethical AI 團隊聯合負責人Timnit Gebru發推表示她被谷歌 AI 負責人Jeff Dean 火速解僱。具體因為什麼呢?
  • Jeff Dean發谷歌年度官方「成績單」,點出未來4大重要挑戰
    作為谷歌 AI 帝國的重要部分,谷歌強大的研究團隊一直致力於通過研究和系統工程來推動人工智慧領域的發展。1 月 9 日,按照慣例,研究團隊在其官方博客發表了 2019 年的年度總結,並展望 2020 年的工作重點。最新的官方總結由谷歌 AI 的領軍人物之一、谷歌高級副總裁 Jeff Dean 代表整個團隊執執筆。
  • 谷歌Jeff Dean回信反轉劇情,李飛飛學生Timnit被爆主動離職而非被...
    僅在Timnit辭職一天後,便有超過4000名學術界、工業界和民間人士籤署一份聲明要求谷歌作出實質性改變。但根據谷歌AI老大Jeff Dean給出的回信中可以得知,Timnit其實是以辭職要挾,結果「如願以償」。
  • Google AI負責人Jeff Dean訪談:2020年機器學習趨勢
    VentureBeat周四與Dean談到了谷歌在使用ML創建機器學習半導體方面的早期工作,谷歌的BERT對會話式AI 的影響以及2020年值得關注的機器學習趨勢。為簡潔明了起見,對本採訪進行了編輯。VentureBeat :您將在周六的「通過機器學習應對氣候變化」研討會上進行演講。您可以在演講前分享什麼嗎?