Facebook 新算法:惡語也分三六九等

2021-02-15 Quriosity

仇恨言論是一種詆毀種族、性別、性取向等個人特徵的殘暴、不人道言論,Facebook與旗下的INS早就設置了針對仇恨言論的禁令。但在整改前,公司的算法和制度並沒有對不同群體加以區分,系統無法判斷哪些群體易受仇恨言論的攻擊,哪些群體不屬於長期邊緣化人群。像「白人愚蠢」這樣的評論甚至會與反猶太主義和種族歧視並為一談。(歷史上被邊緣化的群體(HMG)——婦女、少數種族、少數民族、性少數者以及低收入個人)

Facebook has long banned hate speech — defined as violent or dehumanizing speech — based on race, gender, sexuality and other protected characteristics. It owns Instagram and has the same hate speech policies there. But before the overhaul, the company’s algorithms and policies did not make a distinction between groups that were more likely to be targets of hate speech versus those that have not been historically marginalized. Comments like 「White people are stupid」 were treated the same as anti-Semitic or racist slurs.

 

多年來,民權倡導者一直在抨擊Facebook大量清除黑人用戶帖子的現象,這種情況在黑人描述歧視經歷時猶為明顯,此次算法修改也是對這一批評的回應

The shift is a response to years of criticism from civil rights advocates that content from Black users is disproportionately removed, particularly when they use the platform to describe experiences of discrimination.

 

由於描述歧視經歷可能會涉及對白人的批評,Facebook的算法往往會自動刪除這些內容,即使是先進的人工智慧也會在處理這種微妙話題時「過於熱心」

Because describing experiences of discrimination can involve critiquing White people, Facebook’s algorithms often automatically removed that content, demonstrating the ways in which even advanced artificial intelligence can be overzealous in tackling nuanced topics.

 

黑人用戶表示,Facebook聲稱要保護少數群體,但在由白人建立並主導的公司裡,這種仇恨言論政策和內容審核系統卻很難讓他們滿意。但他們別無選擇, 只能繼續使用Facebook和INS,這兩大社交媒體已經成為了黑人團體的救生索。

Black users say hate speech policies and content moderation systems formulated by a company built by and dominated by white men fail the very people Facebook claims it's trying to protect. But they have no choice but to stick with Facebook and Instagram, both critical lifelines to their communities. 

 

藉助社交媒體的輿論運動,警察殺害美國黑人的問題以及就業、健康和其他領域的種族差異都被提上了公共議程。

Movements on social media have helped put the deaths of Black Americans by police officers on the public agenda, along with racial disparities in employment, health and other areas, they say.

 

黑人用戶還說,在談論種族主義時為了躲避禁令,他們會使用白人頭像、白雲emoji以及 「wypipo」(音似white people )和「huite」(音似white )等俚語,在語音和視覺上代替提及「白人」;他們用假名發帖、設置備份帳戶來聯繫其他黑人和防止信息丟失;他們還開發了一個好友系統,以便有人受到Facebook的制裁時及時提醒朋友和追隨者,同時分享處罰的具體情況和那些所謂「違背規定」的帖子內容。

To elude bans when talking about racism, Black users said they resort to using a white avatar, slang such as "wypipo" or "huite" or a cloud emoji as phonetic or visual stand-ins for white people. They operate under aliases and maintain backup accounts to avoid losing content and access to their community. They've developed a buddy system to alert friends and followers when someone has been sent to Facebook jail, sharing the news of the suspension and the posts that put them there.

相關焦點

  • 安全帽咋也分三六九等?
    連安全帽都要分個三六九等,那這個企業肯定難以成立。希望有關部門介入調查。@bling子谷:他最後笑的那下我想哭。竇師傅的短視頻平臺個人主頁顯示,他是一名來自江蘇連雲港的農民工。在接受其他媒體採訪時,竇師傅表示自己的工種是砌磚工,一年會有好幾個月在工地上幹活。
  • 想一個月搞定面試算法?來《九章算法班》!第一節免費試聽!
    想接受系統的面試算法培訓的同學,或想換工作的但是算法比較薄弱的工程師。0算法基礎即可參與學習。主講令狐衝老師,曾就職於超過2家矽谷頂尖IT企業,  北美和國內頂尖IT企業offer數10+,面試人數超過200人。課程大綱由易到難。只要你會任何一門計算機語言即可參加。尤其適合算法基礎相對薄弱的 or 轉專業的 or 想跳槽卻太久沒刷題的同學。分九個章節,系統的講授面試中涉及的算法知識。
  • 新算法:換算成人類的年齡,你家汪是幾歲?
    新算法:換算成人類的年齡,你家汪是幾歲?綜合大量的數據,總結出,狗狗的壽命一般在12—15歲之間,而現有記錄中記載的最長壽狗狗活到了34歲!狗狗在一歲左右進入成年期,2-5歲是狗狗的壯年期,6歲以後,狗狗開始出現衰老現象,在10歲左右,它們的生殖能力就將停止。一般來說,串串狗比純種狗長壽,小型狗比大型狗長壽,公狗比母狗長壽,室內飼養的狗比室外飼養的狗長壽。
  • 貪心算法:加油站
    可以看一下公眾號左下角的「算法匯總」,「算法匯總」已經把題目順序編排好了,文章順序即刷題順序,這是全網最詳細的刷題順序了,方便錄友們從頭打卡學習,「算法匯總」會持續更新!❞134.貪心算法(方法二)可以換一個思路,首先如果總油量減去總消耗大於等於零那麼一定可以跑完一圈,說明 各個站點的加油站 剩油量rest[i]相加一定是大於等於零的。每個加油站的剩餘量rest[i]為gas[i] - cost[i]。
  • 警惕Facebook東方閃電異端
    東方閃電(https://www.facebook.com/EasternLightningzh)2. 考察東方閃電(https://www.facebook.com/InvestigatetheEasternLightning)3. 探討東方閃電(https://www.facebook.com/figprayer)4.
  • 益智遊戲剋星:BFS暴力搜索算法
    請你寫一個算法,計算贏得遊戲需要的最少移動次數,如果不能贏得遊戲,返回 -1。比如說輸入的二維數組board = [[4,1,2],[5,0,3]],算法應該返回 5:首先回答第一個問題,BFS 算法並不只是一個尋路算法,而是一種暴力搜索算法,只要涉及暴力窮舉的問題,BFS 就可以用,而且可以最快地找到答案。你想想計算機怎麼解決問題的?哪有那麼多奇技淫巧,本質上就是把所有可行解暴力窮舉出來,然後從中找到一個最優解罷了。
  • 小學生被分成三六九等,精英組平民組和麻將組!網友吵翻了
    最近聽女兒說,老師把學生分三種,精英組、平民組、麻將組。其中,平民組又分好幾個等級,而麻將組底下的,就是學習不好的小朋友。班主任語文老師是按每一單元考試來劃分,我女兒是在平民組2號,我想麻將組的小朋友心裡陰影面積有多大呢?我還想知道,老師有權這樣做嗎?
  • 經典算法題:猜數(360軟體測試工程師筆試題)
    又假設學生A和B的結論是正確的,則這兩個數字是:()經典算法題:《算法題 :貪心算法(大眾點評筆試題)》《算法題 :所有String2的字母在String1裡是否存在(大眾點評筆試題)》《算法題 :順序表插入新元素(迅雷筆試題)》《算法題 :迅雷2016研發工程師5道筆試題
  • 知其所以然之永不遺忘的算法
    於是,我們仔細研讀算法的每一步,甚至去證明算法的正確性,或者是去嘗試優雅地實現這些算法。總之,我們會花費很大的時間精力去理解這些智慧的結晶。然而,現在對於這些經典的算法你仍然瞭然於胸嗎?就算現在你仍然記得這些算法的步驟,你敢確保一年後、十年後自己不會忘記?我想沒有多少人敢保證吧。
  • 困在武漢的香港模特:日本人都說「武漢加油」,他們卻對我惡語相向
    香港28歲女模特胡淽喬(原名胡心諾),今年1月陪男友回武漢過年,不料遇上新冠肺炎疫情爆發,隨後到距離武漢市中心一小時車程的郊外村莊居住。滯留武漢期間,她時常在海外社交媒體上分享自己在當地的生活所見。然而這卻引起部分香港激進網民的惡語攻擊。
  • 一文讀懂哈希和一致性哈希算法
    算法介紹哈希算法也叫散列算法, 不過英文單詞都是 Hash, 簡單一句話概括, 就是可以把任意長度的輸入信息通過算法變換成固定長度的輸出信息, 輸出信息也就是哈希值, 通常哈希值的格式是16進位或者是10進位, 比如下面的使用 md5 哈希算法的示例md5("123456") => "e10adc3949ba59abbe56e057f20f883e
  • 滯留武漢的香港模特:日本人都會說「武漢加油」,一些香港網友卻對我惡語相向
    【環球網綜合報導】香港28歲女模特胡淽喬(原名胡心諾),今年1月陪男友回武漢過年,不料遇上新冠肺炎疫情爆發,隨後到距離武漢市區一小時車程的效外村莊居住
  • 小視科技:狗臉識別算法,讓你告別狗盲症!
    小視科技針對市場需求推出「狗臉識別」算法,其通過提取狗臉特徵,計算兩張圖片狗的相似度,從而判斷是否是同一隻狗,並給出相似度的評分,實現狗臉比對。對於廣大有「狗盲症」的朋友而言,該算法將讓你徹底告別狗盲問題。其較之於目前流行的寵物電子晶片更省錢、更方便。
  • Facebook發言人:不允許敏昂萊再出現在Facebook上
    卡瑪雅33快速步兵營)7.丹烏準將(參與了2017年若開事件的卡瑪雅99快速步兵營)8.昂覺佐中將(由於健康原因,今年年初辭職)9.茂茂梭少將(2017年擔任西部軍區總司令,今年年初由於若開邦事件被開除軍籍)10.警長杜亞散倫(2017年在若開邦擔任職務,今年5月被革職)11.丹佐溫少校12.卡瑪雅33快速步兵營的facebook
  • 昭通鎮雄一女子被哥嫂多次上門辱罵並惡語恐嚇!原因竟然是.....
    ▲打了馬賽克的吳道菊近照  她說:「沒別的意思,哥嫂累次上門辱罵並惡語恐嚇,我到底應該怎麼辦?」下面是吳女士的求助信原文  我叫吳道菊,家住雲南省鎮雄縣烏峰鎮陳貝屯十字嶺社68號!我蓋的新房的宅基地,我哥說是他的,可是這土地本身就是父母分給我建房子的,我是想問,都是一個家庭的成員,都是父母的親骨肉,難道就因為我是女的所以就不應該有土地嗎?       我哥叫吳某宣,嫂叫付某美,平時老小不分,老人不贍養,這麼些年老人一直是我照顧,從建房開始,就為這塊宅基地一直辱罵我到現在,全然不顧兄妹情份,真的讓人很傷心。
  • 知識拓展:recommendation algorithm(推薦算法)讓你不知不覺深陷APP
    第四段提到了recommendation algorithm(推薦算法),你知道它可以用來做什麼嗎?推薦算法是計算機專業中的一種算法,主要基於用戶的行為數據,通過一些數學算法,推測出用戶可能喜歡的東西。
  • 財務管理:成本計算--加權平均算法
    移動加權平均算法大多數的ERP使用的是加權平均算法,現在我們來舉個例子解釋一下加權平均算法步驟1:入庫2支鉛筆,每支
  • 計算機視覺:從入門到精通,極限剖析圖像識別學習算法
    本次課程將圍繞著計算機視覺中最常見的RCNN圖像識別算法進行極限剖析,從數學理論, 模型框架到實踐實操,讓你在短時間內從理論到實踐,掌握深度學習的基本知識和學習方法。· 目的:掌握神經網絡的基本原理,知其然亦知其所以然(從數學實踐到代碼的熟練和精通); · 手段:科學的方法。
  • 網易遊戲面試題:如何設計一個公平的洗牌算法
    )。我記得在面試網易遊戲的時候,面試官當時是這樣問我的:「給你一副撲克牌,你能設計一個公平的洗牌算法嗎?」。大致代碼如下:import java.util.Random; class ShuffleCards {   // 洗牌算法    public static void shuffle(int card[], int n)     {
  • 圖靈獎得主發推道歉:因去賽馬克算法被指歧視黑人
    前不久美國杜克大學的科研人員宣布了一種新的AI去馬賽克算法PULSE,跟傳統的超解析度算法不同,它不是填補像素,而是先生成高清大圖