數字的反烏託邦:算法是如何懲罰窮人的?-虎嗅網

2021-01-09 虎嗅APP


從美國伊利諾斯州的小鎮到英格蘭的羅奇代爾,從澳大利亞的珀斯到印度北部的杜姆卡,一場關於政府如何對待窮人的革命正在進行。


你可能沒有聽說過也看不到革命的發生。它是由工程師和編碼人員在遠離公眾視野的隱蔽政府機構中閉門策劃的。


由於人工智慧、預測算法、風險建模和生物識別技術是背後的驅動力,因此只有數學家和計算機科學家能夠完全理解這個巨大的變化。但如果你正處於福利改革接收端的數百萬弱勢人群之中,你一定會體會到其中嚴重甚至是致命的影響。


一場關於政府如何對待窮人的革命正在悄然發生


《衛報》過去三個月一直在調查,如何投入數十億美元用於AI創新,因為這些創新正在爆炸性地重塑低收入人群與國家的互動方式。我們在美國、英國、印度和澳大利亞的記者們,共同探討了數字福利國家的誕生。


這些記者的工作揭示了失業救濟金、子女撫養費、住房和食品補貼等等是如何在網上炒作的。在此過程中,工業化國家和發展中國家的政府正花費大量資金使「貧窮自動化」,並將弱勢公民的需要轉化為數字,用機器的冷酷無情的決策取代人類辦事員的判斷。


最令人生畏的是,《衛報》的記者們描繪了一幅21世紀狄更斯筆下的反烏託邦圖畫,它正以驚人的速度成形。美國政治學家維吉尼亞·尤班克斯總結出一個詞:「數字貧民窟」。


冷酷無情的機器決策取代了人類辦事員的判斷


如果你關注政府的言論,就會聽到關於新技術如何將貧困轉變為一個高尚和良性的整體的重大承諾。它們將加快福利支付,提高效率和透明度,減少浪費,為納稅人節省資金,消除人類的謬誤和偏見,並確保有限的資源能夠到達最需要的人手中。但很多時候,這些承諾已經落空了。


在緊縮政策主導政治格局的時候,數百萬人的福利被電腦程式削減或停止,這些程序的運作方式似乎很少有人能夠控制甚至理解。錯誤仿佛流行病一般,沒有途徑讓錯誤的受害者尋求補救。


貧困的自動化將走向世界舞臺。作為聯合國赤貧問題監督機構的人權律師菲利普·阿爾斯頓將在紐約向聯合國大會提交一份開創性報告,該報告將敲響急於將社保數位化對人權影響的警鐘。


阿爾斯頓的分析基於他在聯合國對英國和美國貧困的研究,以及來自34個國家的政府、人權組織和專家提交的資料。它提供了世界現在所處的狀況和走向的速寫,特別是那些生活在越來越大的數字貧民群體面臨的騷擾、針對和懲罰。


在伊利諾斯州,《衛報》發現,州政府和聯邦政府聯手要求福利領取者償還「超額支付」,有些甚至追溯到30年前。這種通過技術武器化的「殭屍債務」體系正在喚起社會最弱勢群體的恐懼和困苦。


正如一位被要求退款者描述的:「你欠的東西是已經給過你的。」


在英國,我們調查了紐卡斯爾郊外的安全政府站點,那裡正花費數百萬英鎊用於開發新一代福利機器人來取代人類。一個由全球首位機器人領域的億萬富翁在紐約的公司正在加速這一進程,並創造了全新名詞:「虛擬勞動力」、「增強決策」和「機器人過程自動化」。


儘管英國的「默認使用數位技術」的議程已經給數百萬低收入英國人帶來痛苦,但政府仍在抓緊推進。被索賠人講述了他們忍受的飢餓、汙穢、恐懼和恐慌。


在澳大利亞,《衛報》廣泛報導了「機器人債務」計劃,該計劃被指責通過有缺陷的算法錯誤地收回歷史負債。我們發現,政府已經開闢了一個新的數字戰線:利用自動化來暫停數百萬的福利支付。收款人在未經通知的情況下不再收到款項。


最令人不安的故事來自印度的杜姆卡。在這裡,我們了解到Aadhaar這個印度政府向所有居民發出的12位的唯一識別號碼給家庭帶來的可怕影響,這堪稱世界上最大的生物識別技術實驗。


莫特卡·曼吉就因為電腦故障而無法識別他的Aadhaar密鑰而付出了代價。他維持生計的口糧被停掉,他因為沒有食物而變得骨瘦如柴。5月22日,他昏死在屋外,他的家人也確認他是因飢餓而死。


國家生物識別項目Aadhaar證件


《衛報》的調查揭示了這些新系統的共同特徵。無論是在發展中國家還是發達國家,無論是東方還是西方,最明顯的相似之處是,這一切正在以閃電般的速度發生,高科技方法席捲了社會服務、工作和養老金、殘疾和醫療健康領域,而公眾辯論或問責往往極少。


在這場革命中,福利國家的人為因素正在被稀釋。現在,取代親自評估人們福利需求的人類員工的是在線引導程序,預測分析將給未來風險打分,而算法將決定被評估人的命運。


在新的世界中,不平等和歧視將根深蒂固。如果你是英國500萬成年人之一,沒有上網的機會,很少或根本沒有計算機知識,會發生什麼?如果算法只是在現有的種族和階級的扭曲中變本加厲,使富人和窮人、白人和黑人、受過大學教育的和體力勞動者之間的鴻溝更加不可逾越呢?


還有一個令人心寒的卡夫卡式的問題正影響全球。正如曼吉的發現展示出的悲觀狀況,錯誤會犯,機器會故障,但如果沒有將人視為一個個體,而是視為一段要處理的12位數字,那麼結果可能是致命的。


如果機器出現故障,結果可能是致命的


電腦上寫著「查無此人」。你能怎麼辦?



相關焦點

  • 數字貨幣共識算法的優缺點分析
    在每一個偉大的數字貨幣背後,都有一個很好的共識算法。沒有一種共識算法是完美的,但它們都有各自的優點。在密碼術的世界裡,存在著防止雙倍支出的共識算法。這裡有一個到目前為止最流行的一些算法的快速概述,從區塊鏈到DAG和所有介於兩者之間的東西。
  • HTTPS的中那些加密算法
    密鑰(key)密鑰是一種參數,它是在使用密碼(cipher)算法過程中輸入的參數。同一個明文在相同的密碼算法和不同的密鑰計算下會產生不同的密文。很多知名的密碼算法都是公開的,密鑰才是決定密文是否安全的重要參數,通常密鑰越長,破解的難度越大,比如一個8位的密鑰最多有256種情況,使用窮舉法,能非常輕易的破解,知名的DES算法使用56位的密鑰,目前已經不是一種安全的加密算法了,主要還是因為56位的密鑰太短,在數小時內就可以被破解。密鑰分為對稱密鑰與非對稱密鑰。
  • 頂級勝率:找到生意中的「保羅算法」
    2、「LOSER球隊」依靠這支「保羅算法」創造了20場連勝的戰績,刷新了美國棒球大聯盟記錄。3、洞察,決定勝率。4、數字不產生洞察,算法模型產生洞察。5、整套營銷體系在求「快」求「準」,商業需要新的工具——去升級傳統的經驗與市場觀察。所以,在今天的市場環境中,洞察是散落在數據汪洋中的細沙,機器算法(AI能力)是新的工具。
  • 先天八卦算法與後天八卦算法
    為了更好地對宇宙奧秘進行探索,月球人傳授給人類高科技算法(如《易經》這種文字形態的算法和公式),讓人類推演未來,用來和現實數據及宇宙模擬器的推演數據進行比對,以改進宇宙模擬器及其算法……外星人化身為伏羲,教給人類的,是先天八卦算法,前身是河圖算法。算法?
  • 我們該以什麼來抗衡這個算法至上的時代?
    越來越多西方國家的公民也對產業和學術精英為中產階級或窮人提供好處的能力失去了信心。大數據時代,算法和數據成為了企業為了搶佔用戶競相開發挖掘的資源,個體也無時無刻不受到算法的引導。又比如,過度依賴算法可能會使我們逐步喪失一些重要的生存技能、行動力、獨立思考的能力乃至實際上非常重要但在今天卻常常被算法取代的直覺力。但特納認為,我們也不必過於「技術悲觀主義」。直覺可能是對抗算法的有效「武器」。
  • 如何正確的懲罰孩子,睿智燈塔教你10種懲罰孩子的方法
    那麼,家長如何正確的懲罰孩子,懲罰孩子的方法有哪些呢?最近鄰居家的天天又被媽媽揍了一頓,在別人眼裡,天天是個聰明可愛的男孩,可在媽媽眼裡,他卻是一個妥妥的搗蛋鬼。這不,天天媽媽剛打掃好客廳的衛生,天天就把衛生紙撒了一地。媽媽看著被弄髒地板很是生氣,二話不說就打了天天的屁股。「我不是故意的。」天天帶著哭腔對著媽媽說。
  • 天幹地支的月份算法
    天幹地支是我國古老的年歲算法,除了可以用來表示年份外,還可以用來推算月份。推算月份的前提有三個,第一個前提是要知道當年的天幹地支,這一點我在另一篇文章中有寫過,想知道的可以去看,這裡就不再贅述;第二個前提是要知道天幹地支分別對應的數字(月份),我總結成了圖,即圖一;第三個前提是要知道24節氣是如何表達月份的。我也總結成了表,即圖二。
  • 如何計算兩個數的最大公約數?用世界上一個很古老的算法就可以
    但這隻適用於比較小的數字,如果數字很大,那麼用這種方法就會費時又費力。這時,就需要用到一個世界上最古老的算法——歐幾裡得算法了。歐幾裡得算法歐幾裡得算法,就叫輾轉相除法。因為最早被發現記錄於歐幾裡得的著作中,因此就以其名字來命名。這個算法就是用來求兩個數的最大公約數的。接下來,我們就來看看歐幾裡得算法的具體步驟。
  • 史上最強:numpy 實現全部機器學習算法
    來源:SOTOM數據科學 來自於加州伯克利大學的David Bourgin 使用Numpy實現了幾乎全部的機器學習算法,真正實現了手擼ML的願景。多少「調包俠」的願望都被這位小哥實現了! 該項目超過3萬行代碼,除了算法本身,還有很多的數據預處理代碼!
  • YouTube的水逆2019:算法的紅與黑,平臺的難與易
    要在競爭中維持自己開放自由的核心優勢,卻又不得不回應用戶們加強內容幹預和監管的需求,本期全媒派帶你看看YouTube如何走這條最艱難的路。調整兒童算法,守護上網安全在網際網路這片開放的信息海洋上,如何為青少年安全上網保駕護航?
  • 天幹地支的日柱算法
    天幹地支的日柱算法相較於年歲算法和月份算法來說,要複雜一些。推算日柱的前提條件只有一個,首先要推算出當年的元旦日幹支。而推算元旦日幹支之前,要弄清楚當年是閏年還是平年。日柱所有的推算用的都是國曆。20世紀閏年的元旦日幹支推算方法如下:元旦日天幹=該年末尾兩位數÷4(如果計算出來的數大於10,就一直減到小於等於10為止),再對照圖一,數字為多少,天幹就為多少;元旦日地支=元旦日天幹計算出來的那個數÷4,看餘數,再參照圖二(能夠被整除,即餘數為0的數,也算為酉)。
  • 對話雲天勵飛CEO陳寧:算法晶片化,不等於「算法+晶片」
    又如何在2020年疫情「黑天鵝」和國際形勢變遷下,穩拿20億融資、衝刺IPO?值得一提的是,在當下各路AI企業紛紛描繪造芯藍圖的氛圍下,雲天勵飛早在2018年就成功流片了自研的AI晶片DeepEye 1000,雲天勵飛的造芯邏輯和真實進展如何?
  • 遊戲懲罰搞笑有趣的有哪些
    遊戲懲罰搞笑有趣的有哪些互動遊戲給大家帶來了很多快樂,不過,是遊戲那麼往往就會有輸贏,輸了就要接受懲罰,不要小看了互動遊戲中的懲罰,有創意的懲罰可以讓遊戲更加精彩難忘。今天給大家介紹幾個不錯的聚會遊戲懲罰措施,不是那些弱爆了的罰酒、唱歌,而是一些十分搞笑有趣的懲罰。
  • 全球主流社交媒體算法解析:Facebook、YouTube、Twitter如何利用...
    此外,業內還出現了一種「算法可能會引起信息極化和偏差」的說法。因此,了解算法並了解算法何時發揮作用,這一點很重要。算法的重要性還體現在哈佛商學院的一項研究中,研究發現人們更有可能遵循來自算法的建議,而不是人的建議。這正是本文誕生的原因之一。本文提供了一種指導方法——當算法控制了你的閱讀時,你該如何思考。
  • 易學、算法和底層邏輯
    不同的計算機語言催生了不同的算法邏輯,就像你輸入「圖片」,在百度搜索、搜狗搜索和360搜索裡,顯示出的圖片,以及圖片的排序都是不一樣的,算法的不同導致了搜索結果的差異。所以我們可以這樣說,工具的改變催生了語言的改變,語言的改變又催生了算法邏輯的改變,所以工具一改變,算法邏輯就變了。
  • 疫情時期的「愛情算法」:計算配對成功概率的約會 App
    最後的結果是個概率,用你最有可能在多久找到真愛的時間表示,知道這個數字對你很有幫助,哪怕面對它多少有點令人恐懼(編者註:比如說一萬年)。知道這個數字(關係的實用價值)的價值也許再也比現在這個時候更高的了。這款app可以幫你找到愛情,但同樣可以幫助你評估自己所處的戀愛關係如何。戀愛關係的效用價值不僅適用於單身,也適用於跟某人相處時。
  • 算法的形狀|微博熱搜中的卡夫卡式愛欲與律法語言
    在當今數字計算科技條件下的日常生活中,微博熱搜排名基於算法與編程,呈現為一種實時動態列表模式。市場營銷、政治宣傳、社會倫理爭辯、娛樂八卦情動……多樣的用途在排序中驅使著用戶的好奇心、分配著注意力、促使點擊行為不斷刷新列表。被捲入這一反饋機制的用戶的欲望,因而隨列表的多種用途而被固化和編碼。熱搜排名以怎樣的方式將欲望捲入資本生產當中?
  • 面部算法分析能否窺測你的內心?
    是否是同性戀以及如何傳達這一信息,是一個自我呈現與他人感知之間複雜的相互作用。但是科辛斯基和他的團隊「直接跳到了產前激素失衡理論」。科辛斯基堅持,這項測試並沒有測試PHT,而僅僅是測試一個算法是否可以用來「找出」同性戀,而他想要警告人們存在這樣的技術。他說:「看!如果一個人、一個國家或者一個機構想要『找出』某類人,這就是個很好的篩查工具。」
  • 《太吾繪卷》招式命中怎麼算 招式命中算法一覽
    太吾繪卷招式命中算法一覽。下面跟著小編一起來看看吧! 太吾繪卷招式命中的算法一覽: 以下計算的是放招時出現在屏幕上方和對方閃避三圍對比的數字 簡易版: 1、看下你... 太吾繪卷招式命中怎麼算? 太吾繪卷招式命中算法一覽。下面跟著小編一起來看看吧!
  • 十二星座如何懲罰犯錯的男朋友,看一看,真的漲知識了
    今天這個話題是專門分享給有男票的小仙女們的,教小仙女們如何才能有效的懲罰犯錯的男朋友,當然暫時還沒有男票的小仙女也不要著急呀,小女巫相信你們的男票正在飛奔趕來的路上呢!一般男生呢心思沒有女生那麼敏感細膩,說錯話、辦錯事是經常的事情,這讓小仙女們真的是哭笑不得,分手吧肯定是不可能的,畢竟男朋友還是很好的,但是如果不給他們一個小小的「懲罰」,男票又不會長記性,真的是讓人為難呀。