AI看面相預測犯罪有八成準確率?這篇引發抗議的論文差點登上頂刊

2020-11-17 前瞻網

如同電影《少數派報告》中的場景已經出現——日前，一份研究聲稱已經開發出了根據面相來預測某人是否有可能成為罪犯的人工智慧系統。

該研究名為「利用圖像處理技術預測犯罪行為的深度神經網絡模型」，研究人員聲稱已經創建了一個面部識別系統，「能夠預測某人是否有可能成為罪犯……有80%的準確率，沒有種族偏見，」在一份現已刪除的新聞稿中稱。

該論文的作者包括哈裡斯堡大學博士生、前紐約警察局警官喬納森·科恩(Jonathan W. Korn)。論文稱，該算法「僅憑一張人臉照片就能預測一個人是否是罪犯」。論文作者表示，他們的算法是專門為執法部門使用而設計的。

此前，論文被學術出版商Springer Nature接收，計劃刊載在《Springer Nature-研究叢書：計算科學與計算智能學報》上。但這一消息引起了軒然大波，無數學術界人士紛紛發出抗議的聲音：

一個由人工智慧研究人員、數據科學家和社會學家組成的聯盟呼籲學術界停止發表那些聲稱可以利用人臉掃描和犯罪統計等數據訓練的算法預測個人犯罪行為的研究。

關鍵技術聯盟(Coalition for Critical Technology)說，這樣的工作不僅是對科學的無知，而且使對黑人和有色人種的偏見持續循環。大量研究表明，司法系統對待這些群體的態度比對待白人更為嚴厲，因此，任何針對這些數據的軟體都會放大和鞏固社會偏見和種族主義。

該組織寫道:「讓我們明確一點:沒有辦法開發一個系統來預測或識別不帶有種族偏見的『犯罪行為』——因為『犯罪行為』這一類別本身就帶有種族偏見。」

「這一性質的研究及其對準確性的要求都建立在這樣一種假設之上，即有關刑事逮捕和定罪的數據可以作為潛在犯罪活動的可靠、中立的指標。然而，這些記錄遠不是中立的。」

信中指出，由於美國警察的種族偏見本質，任何對犯罪行為建模的預測算法只會重現刑事司法系統中已經反映出來的偏見。

該組織寫道:「在美國，當監獄、治安的合法性受到根本理由的挑戰時，執法部門對這類性質的研究有很高的需求。」

「由Springer這樣的主要出版商發行這部作品，將代表著在現實世界中不斷被揭穿的、對社會有害的研究的合法化和應用邁出了重要的一步。」

目前已有1700名專家在這封公開信上簽了名，信中呼籲Springer撤銷這篇論文，並呼籲其他學術出版社今後不再發表類似的作品。

據《麻省理工技術評論》報導，作為對公開信的回應，Springer表示不會發表這篇論文。

該公司表示:「你提到的論文正要提交給即將召開的會議，Springer計劃發表會議進展。」

「經過徹底的同行評審，論文被否決了。」

根據面相來預測犯罪可能性，這項研究並不是第一個例子。

早在19世紀，就有一名義大利犯罪學家Cesare Lombroso聲稱他可以通過測量罪犯面部的尺寸來識別他們。

他曾提出天生犯罪人理論，認為犯罪人是一種返祖現象，通過許多體格和心理的異常現象區別於非犯罪人，並且犯罪行為有遺傳性。

他將許多生理特徵認定為「犯罪特徵」，如扁平的額頭，頭腦突出，眉骨隆起，眼窩深陷，巨大的頜骨等。

2016年，另一篇研究聲稱已經發明了一種算法，可以通過面部特徵來預測犯罪行為。

這項研究遭到了批評和反駁，來自谷歌和普林斯頓大學的研究人員發表了一篇長篇反駁文章，寫道:「當被付諸實踐時，面相學的偽科學就變成了科學種族主義的偽科學。」

「人工智慧和機器學習的快速發展讓科學上的種族主義進入了一個新時代，在這個時代，機器學習模型嵌入了用於模型開發的人類行為中的偏見。」

來自谷歌和普林斯頓大學的研究人員注意到，基於論文中共享的數據，所有的「非罪犯」看起來都在微笑，穿著有領襯衫和西裝，而(皺眉的)罪犯卻沒有。

很有可能，這個簡單而具有誤導性的視覺識別指導了算法的所謂複雜分析。

2017年，史丹福大學的兩名研究人員聲稱，他們的人工智慧可以根據一個人的臉判斷他是同性戀還是異性戀。LGBTQ組織抨擊了這項研究，指出自動性取向識別的概念在將同性戀定為犯罪的國家是多麼有害。

2019年，英國基爾大學(Keele University)的研究人員聲稱，通過使用YouTube上的兒童視頻進行訓練，他們的算法可以預測自閉症。

今年早些時候，《大數據雜誌》(Journal of Big Data)上的一篇論文不僅試圖「從面部圖像推斷性格特徵」，還引用了19世紀科學家Cesare Lombroso的話，他支持犯罪是遺傳的觀點。

這些論文都引發了強烈的反對。

編譯/前瞻經濟學人APP資訊組

參考文獻：

https://www.theverge.com/2020/6/24/21301465/ai-machine-learning-racist-crime-prediction-coalition-critical-technology-springer-study

https://www.wired.com/story/algorithm-predicts-criminality-based-face-sparks-furor/

本文來源前瞻網，轉載請註明來源。本文內容僅代表作者個人觀點，本站只提供參考並不構成任何投資及應用建議。（若存在內容、版權或其它問題，請聯繫：service@qianzhan.com）　品牌合作與廣告投放請聯繫：0755-33015062 或 hezuo@qianzhan.com

相關焦點

  • 「看面相識別罪犯」論文要上Nature?遭1700名科學家聯名反對
    機器之心報導參與：澤南、小舟有 1700 名研究者籤字聯名抵制 Nature 出版一篇 AI 研究論文，這可是頭一次。「我們敦促審核委員會公開撤銷論文通過的決定，並解釋評估該論文通過的標準。Springer 需要公開聲明譴責使用刑事司法統計數據預測犯罪行為，並承認其過去在激勵這種有害學術方面的作用。
  • 樊秀娣:4點理由反對「頂刊論文至上」
    國內主要把SCI期刊中各學科最高層次影響因子的期刊視作「頂刊」。在全面清理「五唯」（唯論文、唯帽子、唯職稱、唯學歷、唯獎項）和破除「SCI至上」頑疾的大背景下，目前國內對「頂刊」論文的「熱捧」現象相當突出。典型事例就是有高校只要學者發表「頂刊」論文，便立即校內外通報、多重獎勵，而學者獲得其他類型的同等科研成果卻並無此待遇。
  • AI說長這樣掙得多!Nature力證科學看相,碾壓算命先生
    用AI為面相研究正名也不是什麼新鮮事了，比如之前大火的「面相研究所」，不過現在看來，或許面相研究是假，坑錢是真。那麼，用AI看面相就這麼宣告失敗了嗎？現在，新證據來了，而且是目前最有力的證據，研究表明，一個人的面相與性格存在著很大關係，以面相識人也存在可循的規律。
  • CNN採訪香港大師預測美國大選:用五行預測有8成把握(圖)
    據美國有線電視新聞網（CNN）2月8日報導，最近一位中國香港的預測大師接受了他們的採訪，對今年美國總統大選的參選人給出了運勢預測，據說準確率在80%。向來很關注中國話題的CNN還把總統參選人的運勢與中國的猴年聯繫在一起。
  • 用表情包當頂刊論文配圖?這些年,我們遇到的奇葩論文
    我們首先來看論文插圖。一般我們都會經過精心的設計來實現炫酷的效果，但總有人不走尋常路，在搞笑的道路上越走越遠，下面簡單的給大家分享幾個，與君同樂。　　01、表情包模式　　滑稽的表情一般都是我們網上聊天常用的表情包，萬萬沒想到也能成為頂刊配圖。這裡也佩服作者的膽量，感覺沒有多少人有勇氣把這樣的插圖提交給期刊編輯吧！
  • 準確率高達90%,AI如何預測眼科疾病的演變?
    這樣講，大家可能還是會覺得很抽象，那麼，下面我給大家舉一個例子，相信大家看完這個例子之後就會對我們眼科的AI有一個初步的印象。我先請各位臨時充當一下剛剛提到的「機器」，大家現在看這幾張圖片可能不知道這是要幹啥，別急，那是因為還沒有教會大家怎樣像眼科醫生一樣來看病。下面我把這幾張圖片的中間區域標記出來，然後再為他們配上一個標籤。
  • 腦科學日報:心率可預測抑鬱風險,結合AI,準確率高達90%!
    9月16日，美國賓夕法尼亞大學費城兒童醫院的宋源泉教授團隊與天普大學醫學院的李書鑫教授團隊合作在Cell Metabolism以長文形式在線發表了題為Glial Metabolic Rewiring Promotes Axon Regeneration and Functional Recovery in the Central Nervous System的研究論文
  • 六天內投稿四篇論文,2020年顏寧將講授科研論文的正確寫法!
    六天內投稿四篇論文2019年顏寧成為發表CNS主刊論文最多的華人科學家，然而在2019年快結束的時候，顏寧用論文清倉的方式來迎接新的2020年，用顏寧自己的話來講：「說出來自己有點被嚇到了，六天內投出4篇論文！」
  • 首篇論文就登上國際頂級期刊,如今實力保研浙大
    在北京交通大學，有這樣一位學子，他致力於科研項目，申請軟體著作權一項，作為隊長主持一項國家級大創；他積極投身項目實踐，先後獲得國家級競賽一項，省部級競賽四項；他是科研競賽達人，第一篇論文就投稿至國際能源頂級期刊《Nano Energy》並發表；他是交大"英才獎"榮譽稱號獲得者，三年來成績名列前茅，並成功保研至浙江大學！
  • 美國警察用算法預測犯罪,沒想到結果悲劇了
    在2002年的美國電影《少數派報告》中有一個關於犯罪的假設：如果警察可以通過高科技預知犯罪，能否提前阻止罪惡的發生？據美國媒體《坦帕灣時報》報導，佛羅裡達州中部的一位警長做了一件和電影橋段非常類似的事：他設計了一套算法，希望以此預測警局管轄範圍內哪些人未來可能會犯罪。該算法的數據來源於法庭記錄、警察隨身攝像頭的錄像、數十名曾被算法記錄在案的對象的描述，以及對警長辦公室前僱員的採訪，以作為未來可能犯罪的評判依據。
  • 鳥屎+石墨烯=SCI論文,華人學者用實驗數據硬核諷刺論文灌水
    因為材料學界有大把的石墨烯論文，拿各種物質摻進石墨烯測一測性能提升，就能發SCI……於是作者憋不住了，要吐槽也要去頂刊！要知道，ACS NANO是美國化學協會旗下的頂級期刊，影響因子達到13.903 。
  • 漫畫翻譯、嵌字 AI,東京大學論文被 AAAI』21 收錄
    內容概要：一項關於漫畫文字自動翻譯的研究，引發了熱議，由兩位東京大學博士組成的 Mantra 團隊發布了一篇論文，目前已被 AAAI 2021 收錄，該 Mantra 項目旨在為日本漫畫提供自動化的機器翻譯工具。
  • 中科院的這項研究,登上國際頂刊...
    2019年1月11日，國際頂級學術期刊《Science》在線發表了一篇關於擇偶的研究論文，研究中，科學家對動物界中鸚鵡的擇偶標準進行了探究，結果發現，那些聰穎、能夠解決難題的雄性鸚鵡更能取得雌性鸚鵡的芳心！
  • 漫畫翻譯、嵌字 AI,東京大學論文被 AAAI'21 收錄
    最近，由東京大學 Mantra 團隊、雅虎（日本）等機構聯合發布的《Towards Fully Automated Manga Translation 實現漫畫全自動翻譯》（論文地址https://arxiv.org/abs/2012.14271）論文，引發了學界和二次元界的關注。
  • 我的第一篇PNAS repo | 李魚AK
    我不在乎博士期間這6、7篇論文能不能發出來，不在乎我要不要找教職，也不在乎誰引用它們，誰喜歡它們，誰批評它們。發頂刊固然算是「對得起自己博士這麼多年的心血和付出」，可是發了，又如何呢？我對得起我自己嗎？
  • 2017年裡,哪十篇 arXiv 機器學習論文在 Twitter 上最熱門?
    作者們最終用高達 65536 的 batch size 在 ImageNet 上訓練了 Inception-ResNet-V2，只經過 2500 次參數更新就達到了 77% 的驗證準確率。神經網絡訓練和參數選擇對研究人員們來說往往是玄學般的存在，這篇論文確實幫大家解答了一些疑惑、給出了新的觀點和方法，同時也引發了研究者們之間的更多討論，是一篇有價值的論文。
  • 龍源遼寧公司功率預測準確率創歷史新高
    近期，根據遼寧省調度水新處公布的1-11月功率預測考核數據，龍源電力遼寧公司所屬9座調度風電場功率預測業務平均準確率達到88.71%，創歷史新高。面對遼寧地區越發嚴苛的「兩個細則」考核制度，該公司採取多項措施加強風功率預測管理，不斷提高風功率預測精度，確保在考核中處於優勢。
  • 古生物學家邢立達:成恐龍獵人 收穫琥珀論文和爭議
    2018年，一篇自媒體文章有這樣一段話廣為流傳：能在SCI上發近百篇論文，連很多搞了五六十年的老教授都做不到……更不可思議的是，在英國《泰晤士高等教育》公布的2016年中國大陸學校排名裡，中國地質大學(北京)升至12位……後來大家一查才發現，原來是因為邢立達博士當年畢業並留校。邢立達就職的中國地質大學官方微博轉發了這篇文章。
  • 2020年AI圈十大熱議焦點:演員換臉、AI找對象、去馬賽克
    ，甚至會將有色人種還原成白色人種。 六、AI偏見：歧視從數據進入算法 人臉識別不僅作為身份識別工具，還被一些研究學者用於看面相。比如在今年6月，學術出版商《Springer Nature》原本計劃發表一篇通過AI看人臉來推斷一個人是否會犯罪的論文，但這遭到了1700名研究人員的聯名發公開信抵制。
  • 社科院藍皮書預測股市的準確率有多高?對於2018年又說了什麼?
    對於中國投資者來說，往往更關注社科院經濟藍皮書對股市的預測準確率。然而，在實際情況下，縱觀過去多年的數據分析，社科院經濟藍皮書的參考價值還是比較高，其對股市的預測準確率還是保持相對較高的水平。曾經在2014年底，在社科院金融藍皮書中，曾對A股上證綜指作出了5000點的期待點位。