AI人臉識別「抓」錯了人,他在監獄呆了10天!

2021-02-13 書圈

點擊上面圖片,查看教學大綱

楊淨 邊策 發自 凹非寺 
量子位 報導 | 公眾號 QbitAI

就很離譜。

我,什麼都沒做,就莫名其妙被警察關了10天?!

這是發生在美國新澤西州的一段真實故事

一個酒店偷竊案件,嫌疑人駕車逃逸。

警察沒有驗指紋、沒測DNA,僅靠人臉識別系統,就鎖定了「罪犯」——Nijeer Parks(帕克斯)。

圖源:NJ Advance Media

但尷尬的是,這位「罪犯」壓根就沒去過那個地方,都不知道那個酒店在哪。

甚至,他壓根就不會開車,駕照都沒有。

去警局的時候,還是他的表哥開車送他的,結果還是被關了10天。

真·鍋從天降

據NJ Advance Media報導,去年1月,在新澤西州伍德布裡奇市漢普頓酒店,發生了一起偷竊案。

嫌疑人在酒店禮品店偷了糖果和其他零食,在酒店人員報警後逃到了一間男廁所。

在警方趕到時, 該男子交出一張駕照,顯示自己是Jamal Owens

警方通過巡邏車內的電腦查到,該駕照無效的,可能是嫌疑人偽造。正當警方準備逮捕時,該男子從酒店門口逃出,跳上了一輛道奇挑戰者。

大概是這車型

據NJ Advance Media援引法庭文件披露,當時嫌疑人還撞上了他們的巡邏車。一名警員跟蹤該車,後來發現車輛被遺棄在一個停車場。

於是,神奇的事情從第二天開始了。

來自紐約、新澤西兩大州的調查人員,通過面部識別軟體,掃描了駕照文件,與警察局、FBI資料庫中存檔的嫌疑人照片進行比對,找到了與照片「高度匹配」的人。

這類軟體,主要依賴於數十億張社交媒體照片來識別犯罪嫌疑人,一直飽受詬病。由於某種原因,NJ Advance Media沒有具體透露。目前,新澤西州已經禁止使用這種軟體。

然後,兩個州的警方告訴伍德布裡奇市的同事:我們找到嫌疑人啦!

嫌疑人被確定為帕克斯,並以他的名義發出了逮捕令,指控他犯有商店盜竊、偽造政府文件、拒捕、嚴重的武器攻擊、離開事故現場等罪名。

隨後,警方檢查了幾個地址,試圖逮捕帕克斯,但無法找到他。

帕克斯通過祖母知曉了這件事情,隨即要求表哥開車送他去警察局,想澄清誤認問題。

結果,一到警察局門口,他就直接被銬上手銬,被七八個警察同時審訊。

在裡面,警察給他看了受損的道奇挑戰者的照片,並一直問:「你知道你做了什麼?」

解釋無果之後,他就直接被關進監獄。

帕克斯透露,在保釋前,他在那裡呆了10天

帕克斯被捕後拍攝的照片

當時監獄檢察官提醒他,

如果乖乖認罪,作為交換條件,他將在監獄中服刑6年,直到他服完85%的刑期就可以提前釋放,其中還有3年假釋。

但帕克斯認為,如果他接受審判,檢察官會根據他以前的犯罪歷史尋求20年或更長時間的判決。

他曾因販賣毒品而被定罪6年,但出獄後決定改過自新,找到一份文員的工作,與未婚妻過著安穩的生活。但這件「人臉識別」案件,打破了他的寧靜。

由此,他也開啟了一年多的訴訟之旅。

帕克斯的律師頓對鎮政府、警察局和包括市長約翰-麥科馬克在內的公職人員提起訴訟,指控調查人員依靠面部識別軟體侵犯了他客戶的權利。

市長的發言人表示,鎮政府還沒有看到民事申訴,無法發表評論。

目前,一名高級法院的法官已經開始向檢察官辦公室施壓,要求他們在案件中拿出更多的證據,而不僅是面部識別軟體。

總之,看起來事情還沒結束。

抓罪犯,人臉識別說了算不算?

無獨有偶,這不是美國第一次出現人臉識別抓錯人。帕克斯被抓還不是類似事件中最嚴重的一起。

2014年,一位名叫史蒂夫·塔利(Steve Tally)的財務顧問被誣告搶劫了兩次銀行。

第一次是在當年5月14日,第二次是在他被捕前10天,也就是9月5日,並且被控在第二次搶劫中毆打一名警官。

在警方公開發布9月份搶劫案的監視圖像之後,認識塔利的三個熟人撥打了警方熱線,並指出了塔利外表與劫匪之間的相似之處。就連塔利的前妻在看了警方提供的圖片後,也認為是他。

但塔利有充分的不在場證據:他當時正在一家公司裡上班。

警方沒有理會,還把塔利關押了兩個月,在這期間打傷了他。

直到兩個月後,塔利的辯護人拿出了他在公司上班的監控錄像,塔利才得到釋放。

人臉識別可以作為指控一個人的確切證據嗎?

2009年,美國國家科學院的一篇論文指出:除了DNA測試外,沒有其他法醫證據方法可以可靠且始終如一地「證明證據與特定個人或資料來源之間的聯繫」。

從技術上來說,人們無法從人臉識別上確定某個嫌疑人的唯一性。

而FBI的法醫音頻視頻圖像分析部門自己也知道,人工進行人臉比對,結論最終會基於個人觀點。

那麼機器的算法就一定靠譜嗎?

早在2008年,FBI年的一份報告中建議圖像部門研究量化面部特徵的頻率。然而人類已經努力了100多年,目前為止還沒有定論。

人臉識別另一個問題是,將監控攝像頭會壓縮視頻圖像,導致用來區分嫌疑人的皮膚、靜脈和痣等圖案被去除、損壞或變形。

塔利被捕就是因為9月的監控視頻中強盜的臉上存在痣。

實際上,由於採集視頻的光照條件不同,會導致一些偽影被誤認為痣。

雖然當年抓捕塔利使用的是人工對比,但到了今天,準確率更高的AI來做人臉識別依然問題重重。

算法可以在幾秒鐘內搜索數百萬張臉,對於具有規則照明和標準化姿勢的圖像,許多人臉識別系統的準確率都超越了人類。但仍然沒有一個算法可以保證100%的正確率。

在專業性上,AI算法的可解釋性差,人臉識別缺乏支持法醫意見的經驗數據。

錯誤率、隱私都讓人揪心

說到人臉識別抓罪犯,不知你是否會想起幾年前張學友演唱會的「五連殺」。當時警方依靠人臉識別,連續抓住了5名逃犯。

但相比之下,英國的警察就沒有這麼好運了。在2017年的歐冠比賽上,英國警方使用了人臉識別系統,結果總共發出了2470次警報,相當於每隔三秒就會提示嫌犯來了,錯誤率高達92%。

在日常生活中,人臉識別的隱私難題,也比錯誤率問題更讓人揪心。

因為擔心隱私被圖像採集方洩露,浙江理工大學副教授郭兵將使用人臉識別技術的杭州野生動物世界告上了法庭,成為國內「人臉識別第一案」。

最終,動物世界刪除郭兵辦理年卡時提交的面部特徵信息。

 圖源:杭州網

人臉識別面部信息屬於個人敏感信息,一旦洩露將對個人的人身與財產安全造成極大的危害。

也正因如此,人們對於人臉識別的態度越來越慎重。

去年5月,舊金山出於安全與隱私的考慮,禁止政府使用人臉識別技術,成為全球第一個禁用人臉識別的城市。

科技公司對人臉識別的態度這些年也越來越謹慎,IBM退出研究這項技術,微軟也刪除了用於研究的大型人臉識別數據集MS Celeb。

人臉識別這項AI最初的「殺手級」應用,成就許多AI明星公司,但發展至今,人臉識別也正在來到一個十字路口。

一端,它的便利已經充分展現;另一端,伴隨的隱私爭議和錯誤率難題,也不斷以新事件登上熱搜。

用不用人臉識別?在什麼地方用人臉識別?如何用人臉識別?

都在成為新時代裡的難題。

另外,聽說現在不少小區,都改人臉識別了?

參考連結:
https://www.nj.com/middlesex/2020/12/he-spent-10-days-in-jail-after-facial-recognition-software-led-to-the-arrest-of-the-wrong-man-lawsuit-says.html
https://theintercept.com/2016/10/13/how-a-facial-recognition-mismatch-can-ruin-your-life/

掃碼,京東優惠購書

京東購書,贈送海量資源:大數據相關視頻、數據集、案例等

本書主要介紹大數據可視化的基本概念和相應的技術應用。全書內容共10章,分別為大數據可視化概述、大數據可視化原理、大數據可視化方法、數據可視化工具、Excel數據可視化、Tableau數據可視化、ECharts與pyecharts數據可視化、Python數據可視化、大數據可視化行業分析以及大數據可視化綜合實訓。本書將理論與實踐操作相結合,通過大量的案例幫助讀者快速了解和應用大數據分析的相關技術,並且對於書中重要的、核心的知識點加大練習的比例,以使讀者達到熟練應用的目的。

 

本書配套視頻演示

相關焦點

  • 人臉識別「抓」錯了人,他在監獄呆了 10 天
    甚至,他壓根就不會開車,駕照都沒有。去警局的時候,還是他的表哥開車送他的,結果還是被關了10天。真·鍋從天降據NJ Advance Media報導,去年1月,在新澤西州伍德布裡奇市漢普頓酒店,發生了一起偷竊案。嫌疑人在酒店禮品店偷了糖果和其他零食,在酒店人員報警後逃到了一間男廁所。
  • 全國首個動態人臉識別監獄項目正式上線!
    由商湯科技提供技術保障的全國首個動態人臉識別監獄項目——內蒙古呼和浩特高度戒備監獄動態人臉識別人員管控系統,在北京中電興發科技有限公司、內蒙古譽華智能科技有限公司兩個合作夥伴大力支持下
  • 審視人臉識別:一種AI技術的全球性濫用
    21 世紀的第二個 10 年,基於深度學習神經網絡的當代人臉識別技術勢如破竹。與仍需要人工操作的人機互動階段相比,人臉識別的自動化程度和精確度都更高。到了 2017 年,iPhone X 成為全球最暢銷的帶有人臉識別功能的手機。當人臉識別大規模鋪開使用摁下了加速鍵之後,越來越多人意識到,人臉識別的方向和速度產生了偏差。
  • Google最新的AR化妝功能曝光,微美全息AR+AI人臉識別精確
    面部識別技術,是基於人的臉部特徵信息進行身份識別的一種生物識別技術。利用攝像設備採集人面部圖像或者是視頻,通過提取其中的關於面部圖像特徵,與資料庫中存儲的特徵模板進行搜索匹配,當相似度超過設定閾值就會輸出匹配成功,反之輸出匹配失敗結果。人臉識別是基於數字圖像處理,數字圖像處理一直都是比較前沿的研究方向。數字圖像處理技術的後期就會發展為人工智慧 (AI)。
  • M91A人臉識及安全帽識別功能布控球AI視頻分析功能|海伊視訊
    AI布控球基於前端邊緣AI計算及後端雲平臺計算,AI布控球集成人臉識別、安全帽識別等的AI視頻圖像分析算法,通過計算機視覺技術對圖像
  • 動態人臉識別,人潮擁擠中一秒鎖定你
    但通常來說,以上多屬於靜態狀態下的人臉識別,事實上人臉識別又可以分為靜態人臉識別與動態人臉識別。靜態人臉識別,主要是指靜態人臉照片與人臉資料庫比對,進行人的身份搜索和身份管理。這類系統主要應用在治安和戶籍管理方面,目前技術上已經成熟,這是由於資料庫主要來源於證件照片,照片的人臉姿態正面,圖像質量通常較好,所以當前技術水平的算法已經可以取得很好的識別結果。
  • 人臉識別再爆爭議
    Clearview 已經很大程度上讓這個想法成為了可能,這家公司設計了一款人臉識別程序,比如說你給某個人拍張照片,把照片傳到程序上面,就可以查看這個人的所有公開照片,包括這些照片的地址連結。更進一步來說,該程序還能用來做很多事情:比如識別抗議活動中激進分子的身份,不僅能搜出他們的名字,甚至還能知道他的住所、工作單位和社交關係網絡;如果在地鐵上遇到一個感興趣的人,也可以這樣做。
  • 人臉識別,禁!
    三個月來,持續升溫的民憤、種族主義和警察暴力猶如一道道旋渦, 攪得時局天翻地覆,但更讓人驚訝的是,就在這樣的混亂中,波特蘭市議會卻通過了一項立法,該立法被廣泛認為是迄今為止最激進的人臉識別技術市政禁令。 兩項法令不僅禁止波特蘭所有市政部門使用人臉識別技術,還禁止私人公司在公共場所使用這項技術。人臉識別系統在美國基本上不受監管,特別是私人企業的使用。
  • 哈佛MIT坐鎮的波士頓,正式宣布政府禁用人臉識別
    提案的波士頓市議會議員Michelle Wu和Ricardo Arroyo說,人臉識別對不同膚色的人不公平,識別白人男性的準確率要比有色人種女性高得多。在議會的文件中也提到,人臉識別並不可靠,而且無法滿足波士頓警署的要求。
  • 奧特曼、小豬佩奇、海賊王...AI人臉識別終於對他們下手了!
    為了回答這件事情,作為小豬佩奇和海賊王的播放平臺愛奇藝下定決心:這裡的會員指的是iCartoonFace:一個卡通人臉識別的基準數據集,愛奇藝與此同時設計了卡通和真人多任務域自適應策略來提高卡通人臉識別的性能。這些數據集的相關成果已經發表成論文並被ACM MM2020接收。
  • 外面全是人臉識別!
    監控攝像頭 發展到今天, 監控探頭配合人臉識別的功能, 儼然成為了違法犯罪的 人臉綜合管控應用平臺是一款以公安實戰應用為導向,為了解決案件頻發場所的安全而組建,以人像識別為主的綜合人臉應用系統,採用人臉識別、深度學習、聚類歸檔、實時大數據分析等先進技術。實現了動態人臉抓拍、識別,實時比對報警、對海量人臉精準、高效的排查,協助公安機關獲取有價值案件信息,鎖定人員蹤跡,縮短線索查找時間,為案件偵破提供數據支撐。
  • 上萬人臉識別廁紙機進駐上海?政協委員多年提案拒用人臉識別
    這些人臉識別廁紙機售價9500元/部,10臺以上採購單價為7000元/部,後續每年運維費用899元/年。根據其首聯智能小程序的搜索結果,在上海,這種人臉識別廁紙機已經遍布世博公園2號口、威海路陝西北路路口、延安中路、大融城等十幾處的公廁。
  • 人臉識別籤到,活動人的團寵
    人臉識別技術,聽起來像是一種很玄妙、不太易於操作的新興技術,實際上在近幾年的應用中,已經在不斷的擴展應用範圍,從刑偵、支付、預約報名,再到如今的考勤籤到,無處不在散發著他的魅力。更準確、便捷、富有科技感,這些都是31會議人臉識別籤到技術的標籤,它也配得起如此多的美譽認可。
  • 人臉識別登上Nature封面!看臉的世界,AI卻心懷偏見
    根據人臉識別算法,系統給威廉士定了罪。用「面部識別」抓人,42人被標記,8人真有罪人臉識別技術不只在底特律的警察局使用,事實上,這已經成為警察辦案的重要工具。而且,深受警察們信任。典型系統中的第一階段,定位圖像中的一個或多個人臉。監控攝像頭拍攝的人臉,可能會在不同的光照條件下從不同的角度觀看,這使得他們比標準護照照片更難識別。算法將在數百萬張照片上進行訓練,以定位人臉上的「標誌」 ,比如眼睛、鼻子和嘴巴,它將信息提煉成一個簡潔的文件,大小從小於100位元組到幾千字節不等。
  • 「人臉識別第一案」:沒有勝訴的勝訴
    本文圖均為 受訪者供圖【以下是他的口述】2019年10月17日晚,我看到杭州野生動物世界發來的簡訊,稱入園識別系統已更新,年卡用戶需要激活人臉識別系統,否則無法入園。我將這條簡訊截圖發了朋友圈,吐槽「這家公司強制收集個人敏感信息是越來越過分了」。郭兵在朋友圈吐槽野生動物世界強制收集個人敏感信息的做法。
  • 還在根據關鍵點數量判斷人臉識別系統優劣?都錯啦!
    近日發現好多文章提到,不少企業或者團隊還在根據識別關鍵點的數量來採購人臉識別系統。本以為存在這種誤解的應該是新入門的開發者居多,既然這樣筆者還是以自身做開發的經歷來為大家解釋一下。人臉關鍵點技術在人臉識別的一系列環節中,確實有所應用。
  • 表情包AI生成器:識別人臉情緒,自動配文字
    表情包AI生成器:識別人臉情緒,自動配文字 2020-10-08 07:26 來源:澎湃新聞·澎湃號·湃客
  • 售樓部人臉識別系統:抓到一筆飛單就回本,渠道費之爭是最大癥結
    原標題:調查| 售樓部人臉識別系統:抓到一筆飛單就回本,渠道費之爭是最大癥結 「0.2秒識別,99.87%的識別精度,可以永久保存,設備性能不太用擔心,主要是需要了解到您的項目需求。」這是一家可為售樓部提供抓拍識別客戶的技術公司產品賣點。「使用是您使用的,我們是提供方,大數據是合法的,交易大數據是非法的。」
  • 人臉識別技術升級 戴著口罩也能刷臉打卡
    在人工智慧技術迅猛發展的當下,人臉識別已經不是一件新鮮事。但新冠肺炎疫情下,在建築工地、學校機關等需要鑑別入場人員身份信息的場所,人員在佩戴口罩、安全帽後,實現人臉快速識別並同步檢測體溫,成為一項全新的技術成果。戴口罩進行人臉識別的技術難點在哪裡?現有成果如何提供「一手抓防疫、一手抓生產」的解決方案?未來該技術還有怎樣的應用空間?
  • 360城市安全:AI安全時代來臨,360視覺構建人臉識別安全生態
    2018年,315晚會報出人臉識別的不安全性;同年,人大代表提出人臉識別安全性有待提升,不建議使用;2019年,人臉識別某公司洩露客戶百萬條人臉識別數據;2020年,江蘇常州某社區居民因擔心人臉識別洩露隱私而集體拒絕使用……