研究人員開發了一副反人臉識別的眼鏡,戴上它你就是另外一個人!

2020-12-15 36氪

關心圖像識別研究的朋友可能知道，為了評估和改進AI的識別能力（魯棒性），研究人員會設計一些「對抗性」圖像，它們主要被用來欺騙機器視覺系統。

36氪之前就介紹過麻省理工大學的一項研究，他們用算法生成 「對抗性」圖像並將其附加到了3D列印模型上，之後用這些模型去騙谷歌的圖像分類AI。

測試的結果有多誇張呢？3D列印的烏龜玩具被認成了步槍，AI眼中的棒球竟然是一杯濃縮咖啡。

AI對3D物品的錯認足以引起我們對諸如自動駕駛、智能監控等系統的擔憂，因為這些都很依賴AI的圖像識別能力。而如果當下正受追捧的人臉識別技術也被「對抗性」圖像攻破，那麼我們日常生活中類似刷臉支付、刷臉過檢等行為豈不是存在著巨大的安全風險？

新的研究證明，這份擔心非常有必要。因為現在，能欺騙人臉識別系統的眼鏡已經出現了。

與一些浮誇的偽裝面具不同，它們看上去還比較普通。圖片來源: Carnegie Mellon University（下同）

這副反面部識別眼鏡由美國卡耐基梅隆大學和北卡羅來納大學的研究人員合作開發，一共有五種。使用者戴上眼鏡後能夠成功騙過面部識別系統的「眼睛」。

一名男性在佩戴後被識別成了女演員米拉 · 喬沃維奇。而他的女同事則成功扮演了一個中東男人。

研究人員兼聯合開發者Mahmood Sharif在接受Vice採訪時說，眼鏡被設計用來誤導基於神經網絡學習的面部識別系統，它成功騙過Face++的概率為90%。Face++是一款專注人臉檢測、分析和識別的軟體。

該面部識別軟體的神經網絡是基於對人臉像素顏色的分析來猜測一個人的身份的，被測者臉上任何輕微的變化都會影響到整個識別系統。

Sharif表示，他們通過優化算法找到了可以躲過系統識別的眼鏡顏色，並且保證顏色可以平滑過渡(類似於自然圖像)。這些圖案會擾亂面部識別系統的感知，影響AI讀取它們的準確性。

研究人員透露，這種眼鏡可以由用戶自行列印出來。

目前，這些反面部識別眼鏡已經針對 VGG 和 OpenFace 深度神經網絡系統進行了測試，結果顯示欺騙成功。

我們的研究表明，基於深度神經網絡的面部識別是一種特殊的算法, 可以被一個不做任何改變只是簡單戴了一副眼鏡的人所誤導。

也就是說，面部識別系統非常容易受到攻擊，試想如果反面部識別眼鏡被犯罪分子戴著的話，他們就能輕而易舉地逃過公共系統地監控或者以別人的身份進入某家公司。

不過，對這副眼鏡的評價很大程度上也取決於我們如何看待面部識別技術。一方面，注重隱私的人會對眼鏡的前景感到興奮, 因為它可以幫我們繞過公共場合的眾多監控。一個數據是，如果我們生活在一個城市地區，平均每天會被拍到70次, 並且還可以被面部識別技術認出來。

另一方面，面部識別也經常被用來保障我們的安全, 比如國內機場正在大量應用人臉識別系統進行安檢，以識別潛在的危險人物。

出於安全考慮，兩個大學的研究人員已經將他們的研究結果遞送給了自己國家的運輸安全管理局(TSA) , 並建議TSA考慮在未來安檢時，檢查乘客身上看似普通的物品, 比如眼鏡和珠寶等。因為這些小玩意兒可以被用來當作欺騙面部識別系統的工具。

"隨著社會對面部識別技術的依賴越來越強, 我們有時會忘記它可能失敗。在安全性要求高的場合裡部署深度神經網絡，我們需要更好地理解如何讓人臉識別在惡意幹擾面前變得更強大。"研究人員在他們的論文中寫道。

論文最近發表在了arxiv.org上, 題目是《對抗性生成網絡：對最先進人臉識別技術的神經網絡進行攻擊》。

題圖來自Getty Images

相關焦點

  • 一文讀懂人臉識別技術
    人臉識別的發展簡史第一階段（1950s—1980s）初級階段人臉識別被當作一個一般性的模式識別問題，主流技術基於人臉的幾何結構特徵。這集中體現在人們對於剪影（Profile）的研究上，人們對面部剪影曲線的結構特徵提取與分析方面進行了大量研究。人工神經網絡也一度曾經被研究人員用於人臉識別問題中。
  • 人臉識別的安全邊界在哪?專家:完善「社會基礎設施」,確保「人臉...
    今年3月，清華大學法學院教授勞東燕發現，她所居住的小區要求業主下載一個App，錄入人臉信息，進行門禁升級。清華大學法學院教授 勞東燕：現有的法律當中，刷臉需要徵得同意。所以我當時其實想表達，我不同意。當然，其他住戶可能同意，但是對於我這樣不同意的人，你必須給我其它的選擇。
  • 市場嘗鮮戴口罩人臉識別|人臉識別|中關村科學城|姚顯駿|商湯科技
    「現在疫情期間，客戶帶著口罩也能被識別出來。」該開發商銷售說，他還向記者復原了戴口罩人臉識別的過程：當客戶進入售樓處的時候，工作人員把他的身份證信息輸入到該設備系統中，同時，也對其進行了人臉識別，隨後客戶在各個區域停留時都可以被設備抓拍，這樣拍攝的角度是全面的，尤其是客戶在談客區時，如果客戶要喝水的話，一摘口罩就抓拍了整張臉，利用這個抓拍，以後客戶戴口罩時也可識別。
  • 市場嘗鮮戴口罩人臉識別|商湯科技|人臉識別|中關村科學城|姚顯駿
    「現在疫情期間，客戶帶著口罩也能被識別出來。」該開發商銷售說，他還向記者復原了戴口罩人臉識別的過程：當客戶進入售樓處的時候，工作人員把他的身份證信息輸入到該設備系統中，同時，也對其進行了人臉識別，隨後客戶在各個區域停留時都可以被設備抓拍，這樣拍攝的角度是全面的，尤其是客戶在談客區時，如果客戶要喝水的話，一摘口罩就抓拍了整張臉，利用這個抓拍，以後客戶戴口罩時也可識別。
  • 疫情加速百度人臉識別變革:戴口罩也能準確識別,迅速上線
    十三 發自 凹非寺量子位 報導 | 公眾號 QbitAI疫情之下，口罩識別有多難，問問你的iPhone用戶朋友就知道了。在「刷臉時代」，戴口罩的人臉識別已然成為一個大問題。這樣一來，就能將因為佩戴口罩、帽子等遮擋，所帶來的信息丟失降到最低，也就能充分獲取戴口罩人臉的身份信息。算法有了，但數據不夠用來訓練，又該怎麼辦呢？一個傳統的辦法，就是在現有的人臉圖像上「貼」上口罩。
  • 警察戴副墨鏡就能讓犯罪分子在幾秒鐘內現形
    然而，令人意想不到的是，那名中國女警所戴墨鏡，竟然有著超強的殺傷力。它能夠在屈指可數的幾秒鐘內識別出犯罪分子。據俄羅斯衛星網在報一篇《人工智慧（AI）令中國警方如虎添翼》的報導中稱，在鄭州市火車站，負責維持秩序的警察就佩戴有這種裝備有人臉識別技術的智能眼鏡。智能眼鏡接入了帶有通緝犯照片的資料庫。
  • 攻克蘋果人臉識別新方法 眼鏡和膠帶即可
    但是近日有人發現了Bug，可以攻克蘋果人臉識別的方法。面部識別已經成為主流（圖片來源於網絡）正在美國進行黑帽大會上，騰訊的研究人員發現了繞過iPhone Face ID的方法。具體來說方法是，使用眼鏡和膠帶解鎖並滲透到「無意識」受害者的iPhone中，以此「騙過」生物識別中的「活體」檢測功能，這意味著區分人們的「真實」和「虛假」特徵。為了讓Face ID相信你是機主，研究人員製作了原型眼鏡，鏡片上有黑色膠帶，黑色膠帶內有白色膠帶，以模仿眼睛的外觀。
  • 面部識別疑似出現新漏洞 眼鏡貼膠帶就能騙過Face ID
    來源：新浪數碼 作者：曉光在拉斯維加斯舉行的美國黑帽大會上，有研究人員展示了一種繞過人臉識別的方法：使用眼鏡和膠帶可解鎖iPhone。這次演示來自騰訊的研究人員，他們嘗試欺騙生物識別技術中的「活體」檢測功能，混淆過「真實」和「虛假」人體特徵。研究人員說，活體檢測可以檢測背景噪音和反應失真或焦點模糊，從而確保人臉是真實的而不是面具。
  • 清華大學:人臉識別技術爆出巨大醜聞
    突如其來的成功讓清華大學的研究人員自己，都覺得有點不可思議。我們天天在使用的智慧型手機，人臉識別系統竟然如此脆弱？？？要知道在一些國際知名的黑客挑戰賽上，挑戰人臉識別技術的項目經常伴隨著數次嘗試與失敗。「這樣的結果還挺出乎我們意料的，我們以為會需要多調優幾次，但沒想到這麼容易就成功了。」
  • 反人臉識別技術來臨!身份欺騙成功率達99.5%!
    多倫多大學研究人員設計新算法，可以將原本可檢測到的人臉比例從接近100%降低到0.5％。在一些社交媒體平臺，每次你上傳照片或視頻時，它的人臉識別系統會試圖從這些照片和視頻中得到更多信息。
  • 長篇乾貨 | 深度解析人臉識別技術
    人臉識別的發展簡史 第一階段（1950s—1980s）初級階段 人臉識別被當作一個一般性的模式識別問題，主流技術基於人臉的幾何結構特徵。這集中體現在人們對於剪影（Profile）的研究上，人們對面部剪影曲線的結構特徵提取與分析方面進行了大量研究。人工神經網絡也一度曾經被研究人員用於人臉識別問題中。
  • 全民戴口罩,人臉識別算法抓瞎:多種算法出錯,最高錯誤率達50%
    而且，黑色口罩比藍色口罩更容易出錯，口罩遮住口鼻的範圍越大，算法就越難識別人臉。一些算法錯誤率高達50%NIST 計算機科學家、該研究報告的作者之一 Mei Ngan 說:「隨著新冠疫情的到來，我們想要了解人臉識別技術是如何處理帶口罩的面孔。我們首先關注的是，在疫情大流行之前開發的算法可能會因識別對象戴口罩而受到影響。
  • 人臉識別哪家強?科大訊飛發布最新人臉識別技術
    ，一直是公認的模式識別難題，在過去幾十年間，世界頂尖科研機構一直在為人臉識別而努力，但是沒有任何一個計算機算法能夠超越肉眼在LFW上的識別率97.52% ，直到香港中文大學湯曉鷗教授團隊開發出了一個基於高斯過程的人臉識別技術—GaussianFace,「高斯臉的識別率為98.52%，這是機器首超人類」 ，「幾個月前我們的DeepID人臉識別技術在LFW上獲得了99.15%的識別率，又超極限；2014
  • 口罩下的人臉識別:要安全還是要隱私?|iphone|baskin|人工智慧|...
    將口罩對摺戴在左側臉頰上，然後前往設置Face ID，就能夠提高佩戴口罩解鎖iPhone的概率，甚至幾乎次次都能通過。還有網友稱自己拿紙將臉遮住了四分之一，重新設置了Face ID，也實現了戴口罩解鎖iPhone的效果。蘋果隨後回應稱，這些情況只是個例，蘋果手機的人臉識別功能足夠安全。蘋果發言人稱，"Face ID的設計是，只有用戶的眼睛、鼻子和嘴巴都露出來的情況下才會解鎖。"
  • 首發集團32項科技成果集中亮相 智能眼鏡能快速識別逃逸車輛
    戴上一副智能眼鏡，就可以實現人臉識別、逃逸車輛辨別，還可將現場視頻實時傳輸到指揮中心……在昨天召開的第23屆科博會上，首發集團32項科技成果亮相，其中智能穿戴終端十分引人注目。首發集團的工作人員介紹，這款智能穿戴終端具有人臉抓拍、人臉識別、車牌識別、視頻傳輸等功能。在日常執法中，可通過眼鏡等設備將進入視線的人臉抓取、識別，對逃逸車輛、網上追逃人員等重點監控對象，以及肇事、違法車輛可在第一時間發現，相關信息可以存儲在眼鏡或者雲端，作為取證的重要依據。
  • 人臉識別開發技巧揭秘
    隨著人臉識別終端設備的廣泛應用，很多開發者在實踐中會產生疑惑：為什麼同一款主板，運行性能相仿的算法時，系統資源佔用會相差懸殊？為什麼同樣配備了活體檢測，防攻擊能力卻可以差好幾個級別？事實上，人臉識別算法在實際部署中存在一些編程開發策略，能對識別效果和識別速度產生顯著影響。
  • 智慧公安重點人員管控系統開發人臉識別預警平臺搭建
    智慧公安重點人員管控系統開發人臉識別預警平臺搭建
  • 解密蘋果AR眼鏡新生態,微美全息AR+AI實現人臉識別SDK無感支付
    此外，媒體關於蘋果專利的一系列報導顯示，蘋果目前已經掌握了AR眼鏡、光波導、三維內容構建和呈現等諸多專利。這其中，光波導是一項對AR眼鏡極其重要的光學方案，其主要分為幾何光波導和衍射光波導兩種，後者是目前最被看好的光學技術，可量產性和良率高很多。用業內人的話來說，它是一把金鑰匙。
  • 「人臉識別第一案」主訴人郭兵：我為什麼推動「人臉識別」入法
    「修訂草案」中新增了一款規定，物業服務人員不得強制業主通過指紋、人臉識別等生物信息方式使用共用設施設備。提出這條建議的，是浙江理工大學特聘副教授郭兵。「修訂草案」第四十四條企業義務條款中新增了一款規定，物業服務人員不得強制業主通過指紋、人臉識別等生物信息方式使用共用設施設備。如果該規定最終付諸實施，將成為全國首部將小區人臉識別納入物業管理的法定條例。提出這條建議的，是浙江理工大學特聘副教授郭兵，他研究個人信息保護的法律問題多年。他還有另外一個身份一一「國內人臉識別第一案」主訴人。
  • 豐巢刷臉取件被小學生破解,號稱3D、深度學習加持的人臉識別究竟靠譜嗎?
    但是這種方式只能攻擊線上人臉識別模型或API，無法用於線下的真實人臉識別場景，不具有實際的「反人臉識別」效果，所以很多研究人員還是將目光放在了「外加設備」來對抗基於攝像頭的人臉識別。2013年1月，日本國立信息學研究所的日本研究人員創建了「隱私護目鏡」眼鏡，該眼鏡使用近紅外光使臉部下方的臉部無法被臉部識別軟體識別。現在最新版本使用鈦金屬鏡架，反光材料和遮罩，利用角度和圖案吸收和反射背光源來破壞面部識別技術。