據美國有線電視新聞網（CNN）報導，為了防控新冠疫情，英國今年未舉行A-Level和GCSE考試（分別相當於中國的高考和中考），轉而藉由一套算法得出考生相應成績。
報導稱，然而，在關鍵的A-level考試成績（即英國「高考」成績，分數範圍為A*-E）「放榜」後，英國民眾驚詫地發現，近40%的學生成績低於教師給出的預估分數，而這或將使成千上萬的英國學生與名校失之交臂，並因此引發了考生和家長的抗議。
▲抗議「高考」成績過低的英國學生。圖據CNN
為此，英國資格認證和考試監管辦公室(Ofqual)主席羅傑·泰勒出面道歉。他表示，英國教育部之前與Ofqual合作，設計出「儘可能公平的模式」，但「很明顯評分過程導致了更嚴重的不一致，且無法通過申訴程序解決」。據悉，目前英國政府已宣布改變成績計算政策，以教師的評估作為最終成績。
然而此番波折也引發無數人思考，在算法、大數據被普遍運用的今天，為何還會類似於此次「對背景較弱的學生產生算法偏見」的情況？在更廣泛的應用領域中，人們又該如何更積極地消除算法偏差與算法偏見呢？
英國「高考」成績近40%遭降分
英工黨領袖：年輕人的機會破滅了
在接受CNN採訪時，18歲的菲利普表示，算法有可能會導致他今年「失去進入大學學習法律的資格」。菲利普是英國今年30多萬名應屆高中畢業生中的一員。CNN報導稱，「放榜」當天，當這些學生醒來的時候，他們會發現，很少有人能獲得至關重要的A級考試成績。
▲學生們在英國教育部外舉著標語抗議。圖據CNN
菲利普就讀的中學位於倫敦西部，他的老師們預測他可以獲得2個A級和1個B級——這個成績能確保他較為順利地進入名校埃塞克斯大學並學習法律。
當地時間8月13日，英國全面放榜A-Level成績。當天，菲利普在家中試圖訪問埃塞克斯大學網站以確認他是否被錄取。回憶當時的情景，他告訴CNN記者：「我在樓上試圖加載該校網站，我媽媽也在樓下做同樣的事情。她試圖打開這個網站，然而很快就被拒絕了。」
菲利普補充說：「我感覺不太好。我對此很不滿，但身邊每個人的情況都和我差不多。」
菲利普被拒絕的原因是算法給他評定的最終成績是1個B級和2個Cs——未達到埃塞克斯大學的錄取標準。據了解，菲利普的情況並不是個案。受算法影響，今年近40%學生的成績被降了級，其中35.6％的學生成績低於老師預期，另有3.3％的學生成績下降了兩個等級。
▲受算法影響，近40%學生的A-level成績被降了級。圖據BBC
此外，公立學校的學生比私立學校的學生受到的打擊更大，許多人可能會因此失去自己心儀的專業和學校。
對此，英國工黨領袖基爾·斯塔默爵士表示，「今年的考試成績顯然出了大問題。近40％的年輕人的成績被降低了，這涉及成千上萬的年輕人，他們的機會破滅了。」
算法被指向富裕學生及地區傾斜
眾多學生走上街頭抗議
此事讓學校、學院和學生都充滿了憤怒，一些青少年在英國教育部外舉行了抗議活動。相關視頻在社交媒體上迅速傳開，包括一些青少年高呼「去死吧，算法」的畫面。經過幾天的連續報導，英國教育大臣加文·威廉姆森宣布，學生們將獲得老師預測的成績，而不是該模型分配的分數。
據了解，選擇通過算法來劃定考生成績的目的原本旨在「確保公平性」。它通過老師們預測的成績和對學生的排名來確定成績。但至關重要的是，它還參考了考生所在學校的歷史表現，這最終使得那些來自富裕家庭的學生更加受益。
在英格蘭，向父母收取高昂費用的私立學校通常只實行小班化教育。因此，英國政府採用的算法對私立學校老師預測的成績給予了更大的權重。CNN報導指出，英國私立學校的學生通常比那些在公立學校被降級的同齡人更富有。
而在更宏觀的層面上，許多人發現蘇格蘭資格認證局(SQA)在調整學生成績時存在明顯的「區別待遇」：貧困地區的學生通過率比老師預估的降低了15.2%；而富裕地區的學生通過率僅下降6.9%。
▲抗議「高考」成績過低的英國學生。圖據CNN
牛津大學計算機科學系高級研究員海倫娜·韋伯說：「我們所面臨的複雜性之一就是算法如何保證公平。您可以看到一個論點，政府表示希望獲得與去年相似的結果。在全國範圍內，這可以說是公平的，但是它完全錯過了對個人的公平。」
韋伯補充說：「顯然，這種算法反映了前幾年發生的情況，但問題是，它並沒有反映學校在今年可能有所改善的事實。這對公立學校的影響要比對那些平均成績一直較高的私立學校的影響要大。」
他憤怒地向CNN表示：「算法認為，如果學生以前在學校就沒有達到過高分，現在就無法獲得高分。這讓我覺得這個算法是在對一部分人『施恩』。」
「算法偏差」導致「算法歧視」
英國內政部遭起訴
事實上，從社交媒體、籤證申請系統，再到面部識別技術甚至考試評分，當今社會的許多領域都會使用算法。CNN評論指出，對於資金相對拮据的政府和追求創新的科技公司而言，該技術的確可以解放生產力。但是，專家們長期以來一直就普遍存在的「算法偏差」提出警告，與此同時，隨著自動化流程的日益普及，對歧視的指控也越來越多。
NPO法律機構Foxglove的聯合創始人科裡·克裡斯德指出，眼下全英學生「高考」成績低，是因為該算法複製了所用原始數據中存在的偏差。而這「只是算法偏差的冰山一角」。
▲有專家指出，算法偏差普遍存在且影響深遠。圖據Techxplore
克裡斯德告訴CNN，不要單單將政策問題歸咎於技術的缺陷，據悉，其所在機構「Foxglove」已就「濫用數位技術」提出了指控。
近日，Foxglove和英國移民福利聯合委員會向英國內政部發出質疑，目標直指其使用的旨在流式處理籤證申請的算法。這個英國民間慈善團體聲稱，該算法對「某些國家的申請人有偏見」，使來自相關國家的申請人更有可能被拒籤。「篩查系統存在反饋循環，過去的偏見和歧視被輸入電腦程式，加劇了未來的偏見和歧視。」
英國內政部發言人則告訴CNN：「我們一直在審查籤證申請流媒體工具的工作方式，並將重新設計流程，以使其更加簡化和安全，但我們不接受英國移民福利聯合委員會在司法審查中提出的指控。鑑於該訴訟仍在進行中，我們不宜再發表評論。」
對方呼籲加強對算法的監督
英政府已對A-Level成績作出讓步
英國社會活動家和技術專家告訴CNN，他們希望有關算法的近期辯論能使英國政府相關部門加強對算法技術的監督。牛津大學計算機科學系高級研究員韋伯稱，「目前英國缺乏相關的監管監督，但在相關法規出臺之前，公司也可以選擇自我監管。」
事實上，一些科技公司在算法監督方面的聲音也越來越受矚目。
今年6月，社交應用Instagram的執行長亞當·莫塞裡曾在一份名為《關於公司多元化努力》的聲明中寫道：「某些技術可能會重複有偏見的社會思考模式。儘管我們做了很多工作來幫助防止產品中出現潛意識偏差，但我們需要更加認真地研究我們所構建的基礎系統，以及需要做更多的工作來避免這些偏差影響決策。」
▲眾多科技公司也在努力修正其產品的「算法歧視」。圖據BRINK
莫塞裡特別指出，在他看來，分發和算法偏見是Instagram尤其需要改進的領域之一。據悉，Instagram新成立的公平和包容團隊將負責調查美國黑人、西班牙裔和其他少數族裔用戶受到該公司算法的影響，並將其與對白人用戶的影響進行對比。
儘管目前相關公司董事會和學術界仍就如何糾正並消除「算法歧視」和「算法偏差」爭論不休，但毫無疑問，這些自動化系統一直以各種微妙的方式決定人們的生活。
對於菲利普來說，英國政府用算法來取代考試的做法使他陷入困境。他告訴CNN說：「我們給埃克塞特大學發了電子郵件，並打了電話，他們陷入了混亂。」他補充說，他希望自己能「奪回」自己的專業。
目前，英國高校方面也紛紛出面表態，如牛津大學就表示，他們會優先考慮公立學校的失學學生：「我們已經仔細考慮了所有今年沒有達到成績的申請者的個人情況。我們現在已經為其中的300多名學生提供了入學機會，遠遠多於前幾年。其中絕大多數是英國公立學校的申請者，來自貧困家庭。」
紅星新聞記者 王雅林 羅天
編輯 李彬彬
（下載紅星新聞，報料有獎！）