機器之心報導
機器之心編輯部
曾經把圖靈獎獲得者 Yann LeCun 逼到「永久退出社交網絡」的 AI 平權著名研究者 Timnit Gebru 被谷歌解僱了，這次被指作惡的是她的頂頭上司，谷歌 AI 總負責人 Jeff Dean，然而事情沒有這麼簡單。
這幾天，一位谷歌 AI 研究員的離職糾紛在社交媒體上愈演愈烈。
12 月 3 日，這位研究員在推特上表示：「我因為一封寫給谷歌大腦女性成員和盟友的郵件被 Jeff Dean 開除了，公司帳號也被停掉了。這件事情發生得非常突然。」
這位研究員名叫 Timnit Gebru，被「開除」之前是谷歌「倫理 AI 團隊」的技術聯合負責人，致力於 AI 算法偏見、公平性等問題的研究。
她推文中提到的人就是大名鼎鼎的谷歌 AI 負責人，神經網絡框架 TensorFlow 的主導設計者之一 Jeff Dean。在人工智慧乃至計算機科學領域，他的大名可以說是無人不知。
Timnit Gebru 還表示，直接向她匯報的一位谷歌 AI 員工收到了一封郵件，郵件中說公司接受了她的辭職決定，但她根本就沒有遞交辭呈。
「起初我只是提了一些簡單的要求並表示休假回來再處理這件事。我猜測是她（Gebru 的經理的經理）替我做的決定。」Gebru 在推文中寫道。
Gebru 在第一則推文中提到的郵件是怎麼回事？
在「開除」事件發生之前，Gebru 一直致力於一項研究工作並希望發表這篇論文，但卻被她的上司要求撤回論文。因此，上周，她向谷歌大腦女性成員和盟友們群發了一封郵件來表達自己的沮喪。
Gebru 在郵件中表示：
我們剛剛有一項黑人研究，所有人都表現出了憤怒的情緒，但你知道接下來發生了什麼嗎？所有人都保持了沉默。
你聽說過有人是通過一份給 HR 的特權或機密文件得到論文「反饋」的嗎？這聽起來像是一個標準的流程嗎？或者說這件事只發生在像我這樣經常不被當做人來看待的人身上？
在這個會議上，你上司的上司告訴你，「決定已經出來了，」你需要在下周（11 月 27 日）之前撤回這篇論文，而這是所有人幾乎都在外出的一個星期。你不值得公司就此與你展開一場談話，因為在這個公司，你不是一個被認可、被認為有價值的人。
接下來，你希望得到更多信息：有哪些具體的反饋？是誰給出的？為什麼是現在給？為什麼之前不給？你能和其中一個人交流一下嗎？你能了解一下文章的具體問題和可以修改的地方嗎？
一段時間後，你被告知，你的上司可以給你看一份特權機密文件，你不知道這份文件是誰寫的，反饋是誰給的，流程是怎樣的。你寫了一份詳細的文件來討論你能找到的任何反饋，向反饋者提問以及澄清一些問題。但這份文件完全被忽略了。你又一次被命令收回論文，沒有任何交談。
然後你試著和他們交流，告訴他們這是不能接受的，而他們不但沒有反思，卻開始做相反的事情——試圖尋找替罪羊。
像這樣壓制邊緣化的聲音是與我們討論過的 NAUWU 原則背道而馳。而在「負責任的人工智慧」的背景下這樣做，無異於在傷口上撒鹽。我知道，在谷歌，唯一有意義的是等級。我感覺我的專業知識被完全否定了。但現在又多了一個問題，即任何有特權的人都可以在不跟你溝通的前提下決定不讓你發論文。因此，你被擋在了研究社區的門外——你所做的工作還面臨著其他的邊緣化問題。
這封郵件發給了谷歌的數百名職員。在郵件中，Gebru 還呼籲大家停止為谷歌的 IDE 項目撰寫文檔。IDE 是 Diversity（多樣性）、Equity（公平）和 Inclusion（包容）的首字母縮寫，致力於解決谷歌內部的性別、種族等不平等問題。在 Gebru 看來，這個項目已經形同虛設。
Gebru 表示，這封郵件發出之後不久，她就遭到了谷歌的解僱。因此她認為，是自己對谷歌的批評導致了此次的「開除」事件。
但谷歌似乎並不認可這種說法。Google AI 負責人 Jeff Dean 周四給公司研究人員發了一封郵件回復此事。
對於解僱事件，Jeff Dean 給出了自己的解釋，並認可 Timnit 對於自身研究方向做出的貢獻。
Dean 說：
Timnit 和四位谷歌的同事以及一些外部研究者一起完成了一篇論文，這篇論文需要經過我們的內部評審流程（所有拿出去投稿的論文都是如此）。我們已經批准了數十篇 Timnit 和 / 或其他谷歌研究人員撰寫的論文，這些論文也發表了。但我們都知道，在內部評審過程中，論文經常需要修改（有些甚至會被認為不適合發表）。不幸的是，這篇論文在大會 deadline 的前一天才分享給我們，而我們的審稿周期通常需要兩周。因此，這篇論文沒有時間等待反饋就得到了批准，進行了投稿。
隨後，一個跨職能的團隊按照常規對這篇論文進行了審查，並告知作者論文沒有達到發表標準，還給出了原因。它忽略了太多相關的研究。例如，它討論了大型模型對環境的影響，但卻忽視了隨後顯示出更高效率的研究。同樣，它也提出了對語言模型偏見的擔憂，但卻沒有考慮近期緩解這些問題的一些研究。我們認識到，作者對 Megan 和我最終做出的決定非常失望，尤其是在他們已經把論文拿去投稿的情況下。
Timnit 回復了一封郵件並在郵件中提出了一些要求。她表示，只有滿足這些要求，她才能繼續在谷歌工作，包括披露我和 Megan 在論文審查和確定反饋過程中接觸和諮詢過的每個人的身份。Timnit 寫道，如果我們沒有滿足這些要求，她就會離開谷歌，在一個截止日期前停止工作。我們接受並尊重她從 Google 離職的決定。鑑於 Timnit 是 Ethical AI 團隊備受尊敬的研究人員和經理，我對她目前的工作感受感到非常遺憾。
我還感到非常遺憾的是，你們中的數百人剛剛在本周收到了 Timnit 的一封電子郵件，讓你停止進行關鍵的 DEI 項目中的工作。請不要這樣做。我理解過程中會出現一些挫折，但這是一份重要的工作，我們需要繼續努力。
在郵件中，Jeff Dean 似乎並沒有交代清楚雙方的溝通細節，即 Gebru 有沒有獲得一個溝通的機會。因此，他的說法並無法令 Gebru 滿意。Gebru 還在後續的推文中提出了新的觀點，可以參見：https://twitter.com/timnitGebru
這件事情的複雜之處還在於 Gebru 作為一名女性黑人的特殊身份。包括 Gebru 在內的眾多研究人員提倡多元化的員工僱用，以解決算法偏差問題和 AI Now Institute 負責人 Kate Crawford 所說的「 AI 的白人問題」。2016 年 AI Now Institute 的一份報告發現，谷歌 AI 研究人員中有 10％是女性。谷歌的 2020 年多元化報告顯示，約有三分之一的谷歌員工為女性，而 3.7％為非裔美國人，5.9％為拉丁裔，0.8％為美洲印第安人。
此事引發了眾多媒體的報導，並在社交網絡上掀起了討論的浪潮。Gebru 批評了谷歌在多元化方面所做的努力，稱為避免遭到保守派的反對，谷歌的多元化計劃有所縮水。得知這一消息後，國會小組委員會質疑該公司在實現多元化目標方面缺乏進展，以及 AI 研究是否被偏見所影響。
谷歌發言人告訴媒體，任何有關谷歌減少其多元化努力的建議都是「絕對錯誤的」。當被要求回答國會小組委員會提出的問題時，發言人沒有回答。在喬治 · 弗洛伊德（George Floyd）逝世和歷史性抗議活動的大約一個月以後，谷歌和其他大型科技公司一樣，做出了關於多元化員工僱傭的新承諾。
在 Gebru 國家勞工審查委員會（NLRB）對谷歌提出投訴的當天，發現該公司監視並非法解僱了兩名參與勞工組織的僱員。在離開谷歌的幾天前發布的一條推文中，Gebru 質疑是否有一項法規可以保護人們免於 AI 倫理道德社區成員的舉報人法律保護。
本周被任命為「黑人生命數據」組織的全國負責人的 Tawana Petty 今天早上發表了以面部識別等技術監視黑人社區以及白人至上主義危害的主題演講。她高度肯定了 Gebru 的做法。
「她因為我們所有人都想要做的事而被解僱。」Petty 說道。
這次會議的組織者，曾在谷歌工作過的 Mia Shah-Dand 表示，Gebru 被解僱的事件反映了當前科技公司錯誤的文化，並表示黑人和女性需要更多支持。
Gebru 是公平、問責和透明會議（FAccT），非裔機器學習社區 Black in AI 的聯合創始人。在機器學習頂會 NeurIPS 上，Black in AI 每年都會舉行研討會。
在加入谷歌之前，Gebru 加入了 Algorithmic Justice League 創始人 Joy Buolamwini 的工作中，並創建了 Gender Shades 項目，以評估來自 IBM 和微軟等公司提供的面部識別系統的性能。Buolamwini 在 2017 年於 MIT 發表的論文展示了面部識別系統在白人男性用戶中效果最佳，而在女性與其他族裔中效果不好的事實。Buolamwini 和 Deborah Raji 在 2019 年的研究和工作對立法者制定相關規範時產生了很大影響力。
在微軟研究院工作期間，Gebru 是數據集綜述研究「Datasheets for Datasets」的主要作者。這一研究之後成為了創建模型卡的動機。隨後在谷歌期間，Gebru 加入了 Margaret Mitchell、Raji 等人 2019 年有關模型卡的研究，後者致力於提供一種用於機器學習訓練評估時有關模型的基準信息。在該年底，谷歌雲在部分 AI 服務中提供了模型卡，而在 2020 年穀歌引入了 Model Card Toolkit，允許開發者們自行創建模型卡。
今年夏天，Gebru 和她的前同事 Emily Denton 在計算機視覺頂會 CVPR 上主持了有關計算機視覺公平和道德的宣講，其被大會組織者評為「所有人都需要關注的內容」。而在這之前，Gebru 陷入了與 Facebook AI 研究主管 Yann LeCun 有關人工智慧偏見的論戰之中，對於圖靈獎獲得者 LeCun 來說這可能是一個「被教育」的時刻，後者甚至在漫長的論戰之中不甚其擾，。
Gebru 的指控引起了機器學習社區廣泛的關注，曾參與過 DeepMind 著名研究 Alphabet 的學者，UCL 名譽副教授 Julien Cornebise 表示：「即使我們不去討論論文的內部審查制度，以如此方式解僱研究人員也讓人不寒而慄。」
參考內容：
https://www.wired.com/story/prominent-ai-ethics-researcher-says-google-fired-her/
https://www.platformer.news/p/the-withering-email-that-got-an-ethical
https://venturebeat.com/2020/12/03/ai-ethics-pioneers-exit-from-google-involved-research-into-risks-and-inequality-in-large-language-models/
一場屬於蓉城的「鮮香」盛宴，DevRun開發者沙龍邀您開啟「麻辣」開發之旅
行至西南，遇見成都。
12月12日，DevRun開發者沙龍華為雲成都專場將帶你逐一解鎖：AI開發與雲原生DevOps的進階之旅、華為雲技術專家面對面的教學指導、技術瓶頸突破與核心效能提升的關鍵要義以及擁抱變革與自我進階的最佳姿勢。精彩不容錯過！
識別二維碼，立即報名。
© THE END
轉載請聯繫本公眾號獲得授權
投稿或尋求報導：content@jiqizhixin.com喜歡此內容的人還喜歡
原標題：《被指開除高級研究員，谷歌大神Jeff Dean回應：是她說不答應條件就離職》
閱讀原文