全文共1652字,預計學習時長5分鐘
Timnit Gebru是谷歌倫理學和計算機視覺領域最傑出的研究人員之一,她說自己在向公司內部資源團隊「谷歌大腦女性成員和聯盟」(Google Brain Women and Allies)發送電子郵件後被解僱。
這封郵件暗指谷歌在未告知Gebru的情況下審查了她的一篇研究論文,同時也暗示了公司會惡劣對待那些為少數群體發聲的人。這封郵件全文已在Platformer上發布。(https://www.platformer.news/p/the-withering-email-that-got-an-ethical)
在發送電子郵件後,Gebru與管理人員進行了交流,她私下說,如果不能滿足某些保密條款,她將辭職。然而,Gebru說她立刻就被解僱了。
著名倫理學家Timnit Gebru經過緊張的郵件交流後離開了谷歌公司。Gebru對人臉識別偏見性的研究頗具影響力,並因其而聞名。Gebru對該領域的貢獻在於,她使現代人理解人工智慧的失敗之處,以及算法差別對待少數群體的技術基礎。
聯合創始人Rachel Thomas發布的一條推特中闡述了Gebru多年學術成就對人工智慧研究的影響,包括她與人合著了一部開創性的著作,表明面部識別系統對於有色女性的識別遠不如白人男性精準。
Gebru協助領導谷歌人工智慧的倫理團隊,他們共同創立了一個名為Black in A.I. 的國際組織,致力於支持黑人人工智慧研究人員,以及拓寬傳統專有領域的準入。
這封郵件部分內容是:
想像一下:你已經給30多位研究人員發了一篇論文尋求反饋,並且在等待公共關係和政策部門的回覆,你甚至在寫文章之前就已經提醒過他們「我們考慮要這麼做」,你還寫了一份修改計劃,用於解決人們的不同反饋。
但除了被告知更新信息外,(長達2個月內)沒有接到公共關係和政策部門的任何反饋。而在你休假的前一周,突然看到日曆上(大約下午2點)彈出了下午4:30的會議通知。沒有任何人事先告知你會議的內容。
而後就在這次會議上,你上司的上司告訴你「決定已經出來了」,你需要在下周,也就是11月27日之前撤回這篇論文,而這周幾乎所有人都會外出(這個日期與會議進程也無關)。
你不值得公司就此為你展開一場談話,因為在這個公司,你不是一個被認可,被認為有價值的人(更不用說那些被記者、政府、科學家、社會組織,如電子前沿基金會等認可的專業知識能在這個公司得到認可或重視)。
接著,你希望獲得更多的信息。有哪些具體的反饋?是誰提出的?為什麼是現在給?為什麼之前沒有通知?你能和其中一個人交流一下嗎?你能了解一下文章的具體問題,以及可修改之處嗎?
一段時間過後,你被告知,你的上司可以給你看一份特權機密文件,而對此你甚至無權知道,這份文件是誰寫的,誰給的反饋,遵循怎樣的流程或其他內容。你寫了一份詳細的文件,探討你能找到的任何反饋,向反饋者提問並且澄清一些問題,但這份文件完全被忽略了。你又一次被勒令撤回論文,沒有經過任何交談。
然後你試著和別人交流,告訴他們這是不能接受的,可非但沒有反思,恰恰相反——他們開始試圖尋找替罪羊。
像這樣壓制邊緣化的聲音與我們討論過的NAUWU原則背道而馳。而在「負責任的人工智慧」的背景下這樣做,無異於在傷口上撒太多的鹽。
留言點讚關注
我們一起分享AI學習與發展的乾貨
如轉載,請後臺留言,遵守轉載規範