從美國伊利諾斯州的小鎮到英格蘭的羅奇代爾,從澳大利亞的珀斯到印度北部的杜姆卡,一場關於政府如何對待窮人的革命正在進行。
你可能沒有聽說過也看不到革命的發生。它是由工程師和編碼人員在遠離公眾視野的隱蔽政府機構中閉門策劃的。
由於人工智慧、預測算法、風險建模和生物識別技術是背後的驅動力,因此只有數學家和計算機科學家能夠完全理解這個巨大的變化。但如果你正處於福利改革接收端的數百萬弱勢人群之中,你一定會體會到其中嚴重甚至是致命的影響。
一場關於政府如何對待窮人的革命正在悄然發生
《衛報》過去三個月一直在調查,如何投入數十億美元用於AI創新,因為這些創新正在爆炸性地重塑低收入人群與國家的互動方式。我們在美國、英國、印度和澳大利亞的記者們,共同探討了數字福利國家的誕生。
這些記者的工作揭示了失業救濟金、子女撫養費、住房和食品補貼等等是如何在網上炒作的。在此過程中,工業化國家和發展中國家的政府正花費大量資金使「貧窮自動化」,並將弱勢公民的需要轉化為數字,用機器的冷酷無情的決策取代人類辦事員的判斷。
最令人生畏的是,《衛報》的記者們描繪了一幅21世紀狄更斯筆下的反烏託邦圖畫,它正以驚人的速度成形。美國政治學家維吉尼亞·尤班克斯總結出一個詞:「數字貧民窟」。
冷酷無情的機器決策取代了人類辦事員的判斷
如果你關注政府的言論,就會聽到關於新技術如何將貧困轉變為一個高尚和良性的整體的重大承諾。它們將加快福利支付,提高效率和透明度,減少浪費,為納稅人節省資金,消除人類的謬誤和偏見,並確保有限的資源能夠到達最需要的人手中。但很多時候,這些承諾已經落空了。
在緊縮政策主導政治格局的時候,數百萬人的福利被電腦程式削減或停止,這些程序的運作方式似乎很少有人能夠控制甚至理解。錯誤仿佛流行病一般,沒有途徑讓錯誤的受害者尋求補救。
貧困的自動化將走向世界舞臺。作為聯合國赤貧問題監督機構的人權律師菲利普·阿爾斯頓將在紐約向聯合國大會提交一份開創性報告,該報告將敲響急於將社保數位化對人權影響的警鐘。
阿爾斯頓的分析基於他在聯合國對英國和美國貧困的研究,以及來自34個國家的政府、人權組織和專家提交的資料。它提供了世界現在所處的狀況和走向的速寫,特別是那些生活在越來越大的數字貧民群體面臨的騷擾、針對和懲罰。
在伊利諾斯州,《衛報》發現,州政府和聯邦政府聯手要求福利領取者償還「超額支付」,有些甚至追溯到30年前。這種通過技術武器化的「殭屍債務」體系正在喚起社會最弱勢群體的恐懼和困苦。
正如一位被要求退款者描述的:「你欠的東西是已經給過你的。」
在英國,我們調查了紐卡斯爾郊外的安全政府站點,那裡正花費數百萬英鎊用於開發新一代福利機器人來取代人類。一個由全球首位機器人領域的億萬富翁在紐約的公司正在加速這一進程,並創造了全新名詞:「虛擬勞動力」、「增強決策」和「機器人過程自動化」。
儘管英國的「默認使用數位技術」的議程已經給數百萬低收入英國人帶來痛苦,但政府仍在抓緊推進。被索賠人講述了他們忍受的飢餓、汙穢、恐懼和恐慌。
在澳大利亞,《衛報》廣泛報導了「機器人債務」計劃,該計劃被指責通過有缺陷的算法錯誤地收回歷史負債。我們發現,政府已經開闢了一個新的數字戰線:利用自動化來暫停數百萬的福利支付。收款人在未經通知的情況下不再收到款項。
最令人不安的故事來自印度的杜姆卡。在這裡,我們了解到Aadhaar這個印度政府向所有居民發出的12位的唯一識別號碼給家庭帶來的可怕影響,這堪稱世界上最大的生物識別技術實驗。
莫特卡·曼吉就因為電腦故障而無法識別他的Aadhaar密鑰而付出了代價。他維持生計的口糧被停掉,他因為沒有食物而變得骨瘦如柴。5月22日,他昏死在屋外,他的家人也確認他是因飢餓而死。
國家生物識別項目Aadhaar證件
《衛報》的調查揭示了這些新系統的共同特徵。無論是在發展中國家還是發達國家,無論是東方還是西方,最明顯的相似之處是,這一切正在以閃電般的速度發生,高科技方法席捲了社會服務、工作和養老金、殘疾和醫療健康領域,而公眾辯論或問責往往極少。
在這場革命中,福利國家的人為因素正在被稀釋。現在,取代親自評估人們福利需求的人類員工的是在線引導程序,預測分析將給未來風險打分,而算法將決定被評估人的命運。
在新的世界中,不平等和歧視將根深蒂固。如果你是英國500萬成年人之一,沒有上網的機會,很少或根本沒有計算機知識,會發生什麼?如果算法只是在現有的種族和階級的扭曲中變本加厲,使富人和窮人、白人和黑人、受過大學教育的和體力勞動者之間的鴻溝更加不可逾越呢?
還有一個令人心寒的卡夫卡式的問題正影響全球。正如曼吉的發現展示出的悲觀狀況,錯誤會犯,機器會故障,但如果沒有將人視為一個個體,而是視為一段要處理的12位數字,那麼結果可能是致命的。
如果機器出現故障,結果可能是致命的
電腦上寫著「查無此人」。你能怎麼辦?