給照片穿上隱身衣,最強人臉識別算法失靈!最新AI工具Fawkes來了

2020-12-09 雷鋒網

社交媒體平臺正在洩露你的個人隱私。

一張自拍照就能夠識別出姓名、聯繫方式、家庭住址，這對於面部識別技術來說，可能已經不是什麼難事兒。換句話說，只要能夠獲取到照片數據，面部識別技術就能輕鬆獲取個人敏感信息。

如今，我們在社交媒體上的大量曝光，獲取這些照片數據也變得很容易。此前，美國面部識別公司便創建了一個約有30 億張圖像的超大容量人臉資料庫，而這些數據均從 Facebook，Venmo，YouTube 等社交媒體平臺抓取而來。

無處不在的面部識別技術和未經授權的數據獲取已經對個人隱私造成了嚴重威脅。面對這些威脅，芝加哥大學Sand Lab團隊提出了一種新的解決思路——或許我們可以為照片添加一層「隱身衣」！

人臉識別的剋星Fawkes

Fawkes ，已經讓曠視、微軟、亞馬遜等公司的面部識別算法失靈。

來自芝加哥的調查團隊稱。Fawkes的正是為照片添加防識別「隱身衣」的AI軟體，經檢測，它已經在最先進的面部識別技術中取得了百分百的勝利。

我們先來看一組圖片。

相信你很難看出兩組照片有任何差別。事實上，後者已經過了Fawkes處理，並能夠屏蔽任何人臉識別算法。

研究人員介紹，Fawkes軟體對人臉圖像進行了像素級的細微更改，肉眼幾乎無法察覺到。而任何掃描這些圖像的算法都會將這些「高度失真」的圖片視為完全不同的人。

而且，Fwkes的處理速度很快，單個圖像僅需要幾分鐘。

如此說來，經過Fawks快速處理的圖像，可以在不改變原貌的基礎上，隨意分享在各大社交媒體平臺，而不用擔心照片被相關公司隨意抓取或用於非法途徑。

據了解，Fawkes的命名取自Guy Fawkes Mask（蓋伊·福斯克面具）。該面具形象是英國插圖畫家大衛·勞埃德（David Lloyd）以16世紀英國陰謀家蓋伊·福克斯的臉為原型而創造。最早出現在漫畫《V 字仇殺隊》中。研究人員以此表示，通過AI技術巧妙地，不可察覺地更改照片以欺騙面部識別系統。

研究團隊表示，他們希望Fawkes能夠被廣泛部署和使用，以降低個人隱私洩露的風險。因此，Fawkes已經完全對外開放，任何人都可以下載和使用，Windows和Macs系統均可以支持。據統計，這款軟體已經被下載超過100,000次。

下載連接：http://sandlab.cs.uchicago.edu/fawkes/#paper

Fawkes「隱身衣」的實現過程

目前Fawkes軟體已經升級到V0.3版本。V0.3更新了目標選擇算法，比此前的V0.1、V0.2相比，可顯著降低偽裝後攝動偽像的可能性。目前，關於它的技術論文已經對外開放。據了解，該論文將在8月12日至14日舉行的USENIX安全研討會上正式發表。

論文中表明，在此項研究取得了以下幾個關鍵的發現。

以肉眼無法察覺的擾動對圖像的特徵空間表示進行更改。

不管跟蹤器（Tracker ）如何訓練其模型，圖像偽裝都可為用戶識別提供95％以上的保護。

結果使用Microsoft（Azure Face API），Amazon（Rekognition）和Face ++的最新面部識別進行檢測，Fawkes模型可以100％成功。

對於以上的研究發現，論文中也給出了明確的說明。我們可以看到，整個系統分為用戶圖像和模型驗證兩個階段。

前者是基於Fawkes算法來生成用戶圖像的偽裝版本，後者是通過追蹤器（Tracker ）從網絡資源中檢索偽裝的圖像，並使用它們來訓練未經授權的面部識別模型。最終可以發現模型輸出的圖像與原始圖像並不相同。

其中，Fawkes算法整個系統的關鍵。在這裡，研究人員利用特徵提取器Φ和目標圖像T，對原始圖像進行偽裝處理，這些目標圖像T均來自可公開獲得的數據集（均大於500K）。

為了確保偽裝圖像在視覺上與原始圖像基本相似，研究人員採用DSSIM來衡量二者的差異，實驗結果表示，DSSIM均小於0.007。（DSSIM是衡量用戶感知圖像失真程度的方法）。

此外，研究人員認為，通過提高用戶特徵提取器的魯棒性來實現可移植性。這一目標需要通過對抗訓練來完成。該訓練採用擾動數據訓練模型，可以使輸入的目標圖像不那麼敏感。具體來說，對於每個特徵提取器，使用PGD攻擊（一種廣泛用於對抗訓練的方法）來生成對抗示例，然後將更新後的特徵提取器用於在PubFig和FaceScrub數據集上生成用戶偽裝圖像。

結果表明，每個健壯的特徵提取器都會產生隱身衣（Cloaks），而且這些隱身衣幾乎可以完美地轉移到跟蹤器的模型中。可以看到，跟蹤器使用其他特徵提取器時，其隱身衣的保護成功率均大於 95％。

最後為驗證圖像實際的偽裝效果，研究人員將經過Fawkes處理過的圖像洩露給了基於雲平臺的面部識別系統，包括Microsoft Azure Face ，Amazon Rekognition 和Face ++ 。

這些是面部識別系統是全球最領先技術，被廣泛用於美國和亞洲的企業，警察，私人實體以及政府。結果來看，Fawkes對圖像的保護率達到了100%。

相關焦點

  • 一個照片「隱身衣」,讓微軟曠視人臉識別系統100%失靈|開源
    其實，算法已經悄悄給右邊的照片加上了微小的修改。但就是這樣肉眼根本看不出來的擾動，就能100%騙過來自微軟、亞馬遜、曠視——全球最先進的人臉識別模型！所以意義何在？如此一來，即使你在網絡上的照片被非法抓取，用這些數據訓練出來的人臉模型，也無法真正成功識別你的臉。給照片穿上「隱身衣」這項研究的目的，是幫助網友們在分享自己的照片的同時，還能有效保護自己的隱私。
  • 給照片穿上「隱身衣」,這款AI工具成功讓人臉識別系統失靈
    為了保護個人隱私，來自芝加哥大學計算機科學系的研究團隊開發了一款人工智慧工具——Fawkes。新開發的工具可以給你的自拍照穿上「隱身衣」，從而讓人臉識別系統無法有效識別。從團隊公布的數據看，這套工具已經成功騙過了曠視、微軟、亞馬遜等公司的面部識別算法。團隊將工具命名為Fawkes也很有深意。
  • 人臉識別被濫用!這款工具給你的照片「上鎖」
    給照片穿上「隱身衣」   這款AI工具成功讓人臉識別系統失靈 臉部識別技術在近年越來越普遍，不少人感覺這項技術對個人隱私造成威脅。為了保護個人隱私，來自芝加哥大學計算機科學系的研究團隊開發了一款人工智慧工具——Fawkes。為你的照片穿上「隱形鬥篷」，保障照片隱私。
  • 人臉識別算法分析原理
    人臉識別算法的原理：系統輸入一般是一張或者一系列含有未確定身份的人臉圖像，以及人臉資料庫中的若干已知身份的人臉圖象或者相應的編碼，而其輸出則是一系列相似度得分，表明待識別的人臉的身份。人臉識別算法分析1.
  • 騙過監控的隱身衣!讓物體消失的「魔法」,是AI的無痕隱身
    身穿一件隱身衣，穿梭於監控密布的城市之中，不留痕跡。這應該不只是身為機器人的索菲亞才具有的想法吧？ 該算法使用一種簡單的方式來識別物體：他們在新圖像中搜索與已識別圖相似的像素圖案。當人類在看到新事物時，可以根據複雜的線索和實際的知識進行判斷，但算法只會用圖像匹配這一方法。
  • 最先進的人臉識別算法:在口罩面前也不靈了
    本周一，美國標準化與技術研究所（NIST）公布最新發現，即便是最先進的人臉識別算法，面對戴口罩的被識別對象，會有至少5%的失敗率，遠超可被接受的0.3%失效率。人臉識別算法依賴於獲取儘可能多的數據點位，而佩戴口罩後，大量有價值的信息被帶走。
  • 【附完整代碼:AI實戰】動手編寫人臉識別
    既然人臉識別這麼有用，那麼我們能否自己來實現一個人臉識別呢？答案是肯定的。接下來將在之前我們搭建好的AI基礎環境上（見文章：手把手教你搭建AI基礎環境），實現人臉識別模型。Dlib是一個包含機器學習算法開源工具包，基於C++編寫，同樣也提供了Python語言接口。使用Dlib也能很方便地檢測出人臉，檢測的效果要比OpenCV好。
  • 全民戴口罩,人臉識別算法抓瞎:多種算法出錯,最高錯誤率達50%
    而且，黑色口罩比藍色口罩更容易出錯，口罩遮住口鼻的範圍越大，算法就越難識別人臉。一些算法錯誤率高達50%NIST 計算機科學家、該研究報告的作者之一 Mei Ngan 說:「隨著新冠疫情的到來，我們想要了解人臉識別技術是如何處理帶口罩的面孔。我們首先關注的是，在疫情大流行之前開發的算法可能會因識別對象戴口罩而受到影響。
  • 審視人臉識別:一種AI技術的全球性濫用
    期間不但誕生了若干代表性的人臉識別算法，美國國防高級研究計劃局（DARPA）和美國國家標準技術研究院（NIST）更是推出了著名的人臉識別技術（FERET）項目，研發最先進的人臉識別算法和資料庫。主要目的便是用於安全監控。這也為人臉識別引發全球轟動的時間線埋下伏筆，例如 2011 年時的賓拉登事件：蓋達組織負責人 Osama bin Laden 在美國突襲中被殺後，最終由軍方的人臉識別算法成功辨認。
  • 隱私終結者:火遍美國的人臉識別App,用一張照片「順藤摸瓜」
    但是很多人也在擔心一個敵託邦的未來，所以在歐美對人臉識別技術的應用非常牴觸。美國一個爬取了30億張公開照片的新興人臉識別app正在贏得美國警方的青睞，但也遭到了新的擔憂。然後Ton-That做了一件很重要的事情：他發明了一種工具，這種工具可以終止你走到街上不為人所知的能力，並將其提供給數百個執法機構。他有一家小公司，叫做Clearview AI。Clearview AI設計了一款突破性的面部識別app。你給某人拍了張照片，然後把照片上傳就能夠看到那個人的公開照片以及照片的相應連結。
  • 人臉識別:AI產品經理需要了解的CV通識
    6）採集角度：人臉相對於攝像頭角度為正臉最佳。但實際場景中往往很難抓拍正臉。因此算法模型需訓練包含左右側人臉、上下側人臉的數據。工業施工上攝像頭安置的角度，需滿足人臉與攝像頭構成的角度在算法識別範圍內的要求。2、人臉檢測（Face Detection）人臉位置檢測：目的是在圖像中準確標定出人臉的位置和大小。
  • Google最新的AR化妝功能曝光,微美全息AR+AI人臉識別精確
    比如Google最新的AR功能,可以方便地讓用戶在線選擇不同品牌的化妝品進行「雲試用」,從而幫助漂亮的小姐姐們選擇購買更適合自己的化妝品。這項新功能已經面向美國用戶的Google應用程式中實現,它包含了許多品牌的產品可以在線體驗,比如大家熟悉的MAC化妝品和歐萊雅。用戶可以在線選擇這些品牌的化妝品,並且模擬到不同膚色的臉上,來參考如果自己實際購買以後的效果。
  • 資料|刷臉背後:人臉檢測、人臉識別、人臉檢索
    from=leiphonecolumn_res0604以下書籍介紹來自豆瓣內容簡介 · · · · · ·人臉識別是當今熱門的研發方向，在安防、金融、旅遊等領域具有十分廣泛的應用。本書全面、系統地介紹「刷臉」背後的技術，包括人臉檢測、人臉識別、人臉檢索相關的算法原理和實現技術。
  • 戴口罩人臉照片2毛一張暗中交易!人臉識別安全如何保障?
    戴口罩人臉照片2毛一張暗中交易！人臉識別安全如何保障？但與此同時，一些用於打卡考勤或在社交平臺發布的戴口罩的面部照片，正在被偷偷搜集並在網上進行兜售。 日前有媒體爆料，有賣家聲稱其手中有幾十萬張戴著口罩的人臉照片，2毛錢一張，十萬張以上有優惠！這些照片來源，「一半是從網絡上爬（蟲）的，一半來自於現實世界。」對於來自於現實世界的照片，該賣家表示「就是打卡獲取保存下來的，而且都是年後（拍）的，時間很新，你肯定在網上找不到。」
  • 應用層下的人臉識別(三):人臉比對
    如下圖，系統只需讀取二代身份證中的人臉照片，與現場抓拍的本人照片做比對即可。比對閾值對人臉識別的準確率、漏報率影響頗大，比對閾值設置的越高準確率就越高，漏報率也會隨之升高。比對閾值沒有一個固定的標準，應根據應用場景來靈活調整。例如：刷臉支付更關注比對準確率，需要調高閾值；而公安嫌犯人臉布控要求降低漏報，就需要適當調低閾值。4. 晶片人工智慧的三要素是算法、算力和數據，而晶片決定了算力。
  • Google最新的AR化妝功能曝光 微美全息AR+AI人臉識別精確解鎖
    比如Google最新的AR功能,可以方便地讓用戶在線選擇不同品牌的化妝品進行「雲試用」,從而幫助漂亮的小姐姐們選擇購買更適合自己的化妝品。　　這項新功能已經面向美國用戶的Google應用程式中實現,它包含了許多品牌的產品可以在線體驗,比如大家熟悉的MAC化妝品和歐萊雅。用戶可以在線選擇這些品牌的化妝品,並且模擬到不同膚色的臉上,來參考如果自己實際購買以後的效果。
  • 上千張人臉照片流出,人臉識別安全性引熱議,還能「刷臉」嗎?
    人臉識別技術存在一定的風險隨著科學技術的不斷發展，犯罪分子的犯罪手段也同樣在不斷提升。從最新的報導來看，警方在今年就曾經破獲過兩起盜用公民的個人信息來進行非法牟利的案例。犯罪分子利用高超的AI換臉技術，對公民照片做出了一定的處理，然後再通過這些張照片進行動態化視頻生成，而騙過了目前的人臉審核系統，最後完成了自己的詐騙目的，而這也引起了社會輿論的廣泛關注。同時，科學家也對人臉識別技術進行了測試。如果可以做出真皮仿真面具的話，在進行一定程度上的光亮以及其他環境問題的調試，確實可以成功地通過人臉識別系統進行手機解鎖。
  • Fawkes「隱形鬥篷」騙倒臉部識別100%保護照片隱私成功
    臉部識別技術在近年越來越普遍，不少人感覺這項技術對個人隱私造成威脅。而近日芝加哥大學Sand Lab團隊就為大家的擔憂提出新解決方法，為你的照片穿上「隱形鬥篷」，保障照片隱私。通過團隊最新研發的軟體Fawkes可令臉部識別算法故障，經實驗取得100%成功率。
  • 『AI理論學』深度人臉識別流程介紹
    0.引子以OpenFace算法中實現人臉識別的流程舉例，這個流程可以看做是使用深度卷積網絡處理人臉問題的一個基本框架
  • 神奇隱身衣出世,可以欺騙監管算法,視頻中毫無痕跡
    從社交網絡網址或視頻中獲得的照片都能夠在網絡上建立一個像Clearview AI (美國人工智慧技術人臉識別企業)那般的大中型監管資料庫。如今，一件連帽衣很有可能會更改這一切。來源於臉譜網和馬裡蘭大學的學者製作了一系列的運動衫和體恤，可以欺騙監管算法，使之不可以發覺穿著者。他們稱作AI 「隱形衣」。