給照片穿上「隱形鬥篷」，讓人臉識別失靈的新AI

2020-09-10 將門創投

關注並星標

從此不迷路

Jiangmen

From: the Verge; 編譯：Shelly

網際網路上無處不在的面部識別已經給人們的隱私安全造成了困擾。我們每天上傳到社交媒體千千萬萬的照片都面臨著被商業化的危險。AI技術進步的同時，

一種機智的反AI偵察技術也悄然誕生。

Fawkes：為你的照片穿上隱形鬥篷

芝加哥大學沙地實驗室(Sand Lab) 的科學家們創建了一個叫「福克斯」 Fawkes的技術，誕生的新興技術極有可能終結私人照片被高科技公司利用這一現象。該程序主要使用AI技術，可以神不知鬼不覺地修改你的照片，以欺騙面部識別系統。

下面伊莉莎白女王的兩張照片就充分展現了福克斯化腐朽為神奇的力量。如果告訴你其實這不是「一個人」，普通人很難看出有什麼區別，但對於人臉識別系統來說，這就是天壤之別。

伊莉莎白二世：未加工（左圖）和算法隱身後（右圖）

據了解，Fawkes的命名取自Guy Fawkes Mask（蓋伊·福斯克面具）。面具形象是英國插圖畫家大衛·勞埃德 (David Lloyd) 以16世紀英國陰謀家蓋伊·福克斯的臉為原型而創造。最早出現在漫畫《V字仇殺隊》中。研究人員以此表示，通過AI技術巧妙地、不可察覺地更改照片以欺騙面部識別系統。

福克斯的運行原理比較複雜，化繁為簡來說，它並不是讓你的照片對人臉識別系統隱形，而是通過代碼做了一些微調，讓你看起來好像另一個人。經過福克斯改造之後的照片，就像是在面部識別系統面前穿了一個隱形鬥篷。

研究人員把這一過程稱為「偽裝/隱形」，它的目的是破壞面部識別系統運作所收集的照片，也就是社交媒體上的人臉資料庫。例如，面部識別公司聲稱已經從臉書、YouTube和Venmo等網站收集了30億張人臉相片，用來識別人像做代碼研究。

但福克斯的技術先進在於，如果你在網上分享的照片經過了它模型的處理，那麼人臉識別的結果就是：你的臉不再是你的。

研究人員利用微軟、亞馬遜等公司的人臉識別系統進行實驗後，發現福克斯的對抗識別能達到100％的成功。

芝加哥大學計算機科學的教授幫助完成了福克斯的開發，並表示：「福克斯的本質就像特洛伊木馬，使用偽裝的照片來騙過未經授權的人臉識別模型，看起來『像你而非你』就是它想達到的效果。」 他說，「一旦福克斯對人臉識別系統的破壞完成，無論你走到哪裡，你的照片都會被保護。」

升級算法：簡單粗暴又精確的微調

今年早些時候，研究團隊 (Shawn Shan, Emily Wenger, Jiayun Zhang, Huiying Li, Haitao Zheng,and Ben Y. Zhao) 發表了一篇關於福克斯算法的論文。上個月底，他們發布了免費的福克斯Windows版本和Mac版本，任何人都可以下載和使用，到目前為止，福克斯的下載量已經超過了10萬次。

福克斯最早的版本效果不盡如人意，紐約時報評論說他們對於原照片的改變太顯而易見了，有的時候用戶性別甚至都會被改變，比如給女性加上了鬍子。福克斯團隊之後升級了算法，讓照片的調整看起來更自然或者可以說是最精尖的微調，這種升級後的微調非常成功。

不少用戶的反饋是，福克斯的設計簡單粗暴，上手非常容易，處理圖片的速度也很快，每張照片只需要幾分鐘，而且細微的變化肉眼幾乎察覺不到。

神器還是雞肋？各執己見

不過話說回來，福克斯真的是隱私問題的救世主嗎？這也值得商榷。首先是使用的問題，如果你決定以後發到社交媒體上的照片都先用福克斯處理一下，那你肯定是少數。面部識別畢竟是一個社會趨勢，所觸發的隱私問題也需要社會的整體參與來解決，如果只有精通技術的人採用相關的屏蔽技術，那必然會帶來不平等和歧視。

其次，很多人臉識別算法公司很早以前就建立了人臉識別資料庫，這些信息是不可逆的。美國人臉識別公司Clearview AI的CEO也曾這樣告訴時代周刊：「網際網路上不同的域名裡流傳著數十億張未經偽裝的照片，要完善和推廣像Fawkes這樣的技術，幾乎可以肯定地說，為時已晚。」

可想而知，福克斯的研發團隊對這種評估很不認同。他們提出，即使Clearview有幾十億的儲備照片，這不代表他們真的會去鑑定和識別每一個人。福克斯的負責人趙說：「對於很多人來說，Clearview可能只擁有非常少的公開照片，如果人們以後都只發處理過的照片，總有一天，處理過的照片會遠遠多於未經修改的原照片。」

Fawkes的未來：渴望與科技巨頭合作

在應用方面，福克斯團隊承認，他們的軟體要想真正發揮作用，就必須加大推廣和發布規模。出於安全考慮，他們沒有計劃製作網頁或app，但是他們也希望，像臉書這樣的公司未來能考慮將福克斯這樣的技術添加到自己的平臺上。

下載連接：http://sandlab.cs.uchicago.edu/fawkes/#paper

這項技術其實是符合科技巨頭利益的，負責人趙說。畢竟，像臉書這樣的公司希望大家多發照片，同時即使用了福克斯的「隱身」技術，臉書仍然可以根據照片標籤等提取用戶信息，分析數據。整合這項技術只會對目前的用戶產生很小的影響，但對於更關注隱私的下一代，這項技術能幫助社交媒體贏在起跑線上。

「如果臉書或其他社交媒體平臺採用隱身技術的話，對於Clearview這類公司無異於當頭一棒，因為基本上他們的技術就沒有市場了，」趙說，「Clearview等公司如果因為不能破解我們的隱身技術而倒閉，那會是對我們工作的最大褒獎」。

想看更多內容？點擊下方卡片即可直接🔎搜索啦～

本周上新！

關於我「門」

▼

將門是一家以專注於發掘、加速及投資技術驅動型創業公司的新型創投機構，旗下涵蓋

將門創新服務、將門技術社群以及將門創投基金。將門成立於2015年底，創始團隊由微軟創投在中國的創始團隊原班人馬構建而成，曾為微軟優選和深度孵化了126家創新的技術型創業公司。

將門創新服務

專注於使創新的技術落地於真正的應用場景，激活和實現全新的商業價值，服務於行業領先企業和技術創新型創業公司。

將門技術社群

專注於幫助技術創新型的創業公司提供來自產、學、研、創領域的核心技術專家的技術分享和學習內容，使創新成為持續的核心競爭力。

專注於投資通過技術創新激活商業場景，實現商業價值的初創企業，關注技術領域包括

機器智能、物聯網、自然人機互動、企業計算。

在近四年的時間裡，將門創投基金已經投資了包括量化派、碼隆科技、禾賽科技、寬拓科技、杉數科技、迪英加科技等數十家具有高成長潛力的技術型創業公司。

如果您是技術領域的初創企業，不僅想獲得投資，還希望獲得一系列持續性、有價值的投後服務，
歡迎發送或者推薦項目給「門」:

微信號：thejiangmen

相關焦點

  • Fawkes「隱形鬥篷」騙倒臉部識別100%保護照片隱私成功
    臉部識別技術在近年越來越普遍，不少人感覺這項技術對個人隱私造成威脅。而近日芝加哥大學Sand Lab團隊就為大家的擔憂提出新解決方法，為你的照片穿上「隱形鬥篷」，保障照片隱私。通過團隊最新研發的軟體Fawkes可令臉部識別算法故障，經實驗取得100%成功率。
  • 一個照片「隱身衣」,讓微軟曠視人臉識別系統100%失靈|開源
    如此一來，即使你在網絡上的照片被非法抓取，用這些數據訓練出來的人臉模型，也無法真正成功識別你的臉。給照片穿上「隱身衣」這項研究的目的，是幫助網友們在分享自己的照片的同時，還能有效保護自己的隱私。用 x 指代原始圖片，xT為另一種類型/其他人臉照片，φ 則為人臉識別模型的特徵提取器。
  • 「照片脫敏」：新照片隱私技術能擊敗人臉識別AI算法
    一秒鐘之內，人眼只能掃描幾張照片而計算機卻能執行數十億次（人臉識別）計算。隨著社交媒體的爆炸式增長，圖像已成為網際網路上的新社交貨幣。如今，Facebook和Instagram等主流社交媒體都在自動為照片中的用戶添加標籤，而Google Photos可以使用Google自己的圖像識別技術識別照片中的用戶並進行分組。
  • 只知道哈利波特有隱形鬥篷,不知道王麗坤有隱形裙?穿上腿消失了
    裙子的款式也非常有個性，採用蓬蓬裙的樣式，但王麗坤站在頒獎臺上時，燈光打在她身上，讓裙子在地面上形成了陰影，巧妙地將王麗坤的雙腿隱藏了起來，就像隱形了一樣，不免讓人聯想到了哈利波特的隱形鬥篷。所以說只知道哈利波特有隱形鬥篷，不知道王麗坤有隱形裙？
  • 最新AI可成功偽裝照片，欺騙人臉識別系統
    近年來，很多公司在網上搜尋與人名有關的公開照片，以便建立龐大的人臉資料庫，並改進其面部識別系統。這讓人們越來越覺得，個人隱私正在一點點消失。而研究人員正試圖阻止這些，芝加哥大學的一個計算機工程師小組開發了一種工具，可以用像素級的變化來偽裝照片，使面部識別系統混淆。該軟體被命名為福克斯（Fawkes），以紀念受到全世界抗議者喜愛的蓋伊·福克斯面具。
  • 《光遇》隱形鬥篷怎麼獲得 隱形鬥篷獲得方法介紹
    導 讀 光遇隱形鬥篷怎麼獲得？
  • 光遇隱形鬥篷是真的嗎?光遇隱形鬥篷怎麼獲得
    光遇裡面有很多酷炫的鬥篷，其中最難得要屬隱形鬥篷，很多玩家就要問了光遇隱形鬥篷怎麼獲得？小編特地為大家整理獲取方式，需要的朋友快來看看吧。　　光遇隱形鬥篷怎麼獲得　　首先聲明，目前隱形鬥篷只有【beta】服才有，也是就測試體驗服才能獲得。
  • 光遇隱形鬥篷是真的嗎?光遇隱形鬥篷怎麼獲
    光遇裡面有很多酷炫的鬥篷，其中最難得要屬隱形鬥篷，很多玩家就要問了光遇隱形鬥篷怎麼獲得？小編特地為大家整理獲取方式，需要的朋友快來看看吧。 光遇隱形鬥篷怎麼獲得 首先聲明，目前隱形鬥篷只有【beta】服才有，也是就測試體驗服才能獲得。
  • 哈利波特的「隱形鬥篷」,竟然真的存在
    擁有隱形鬥篷這樣的神奇裝備一直是人類的夢想，古今中外的文學作品中也都能找到隱形衣這樣的「神器」。然而，在現實的世界中，不存在魔法，只存在科學。
  • 哈利波特的隱形鬥篷來了,但看到實物後,沒幾個人好意思穿它
    筆者-小文 隱形眼鏡、隱形戰機、隱身衣，一切與隱身有關的東西都讓人充滿了憧憬，而隱形這一詞最早出現在動物身上。 而在眾多描述隱形的科幻電影當中，很多人都對《哈利波特》中的隱形鬥篷抱有幻想，因為有了這樣一件鬥篷，人們就能隨時隨地選擇隱身了
  • 為數據披上隱形「鬥篷」,如何收回部分數據隱私?
    全文共2092字，預計學習時長6分鐘可以有把握地說，到2020年，任何上傳並發布到網際網路上的照片都將通過面部識別技術進行分析。這種關係可能就像人臉的幾何形狀一樣簡單，但是芝加哥大學的研究人員指出，這些算法還能識別出一個人外表的無形「特徵」。Fawkes識別出這些不可見的特徵，然後對其進行調整，從而消除了圖像之間的共性。由於這些微小的特徵以前是肉眼不可見的，因此這些調整也是如此。這些細微的變化稱為「鬥篷」。
  • 光遇999心隱形鬥篷快速兌換技巧
    光遇隱形鬥篷真的存在嘛？隱形鬥篷怎麼兌換？隱形鬥篷找哪個先祖？遊戲中很多玩家看到別人說有了隱形鬥篷，穿上以後就可以看不見自己了，那麼就會變得安全很多了，自己也特別的想要，需要找到先祖趕緊兌換吧，不了解的話下面由小編為大家帶來詳細介紹吧！
  • 兩元錢能買到上千張人臉照片 人臉識別存在信息洩露風險
    新技術在生活場景中廣泛應用 個人信息遭洩露引發公眾憂慮　　人臉識別應用邊界何在　　● 生物識別技術是指通過計算機利用人體所固有的生理特徵進行個人身份鑑定的技術。對於一些沒有明確法律規定的場景，不宜使用人臉識別作為唯一的驗證方式　　□ 本報記者  趙 麗　　□ 本報實習生 邢懿銘　　如今，我們已進入「刷臉」時代。從掃碼支付、指紋支付到人臉識別，數位技術的發展成熟將人們的生活不斷簡化，人們對新技術在社交、生活場景中的廣泛應用也習以為常。
  • 上千張人臉照片流出，人臉識別安全性引熱議，還能「刷臉」嗎？
    犯罪分子利用高超的AI換臉技術，對公民照片做出了一定的處理，然後再通過這些張照片進行動態化視頻生成，而騙過了目前的人臉審核系統，最後完成了自己的詐騙目的，而這也引起了社會輿論的廣泛關注。同時，科學家也對人臉識別技術進行了測試。
  • 「哈利波特」隱形鬥篷有望面世 能隱藏一架戰鬥機
    相信大家都看過《哈利波特》系列電影，裡面有三件非常神奇魔幻的物件，魔杖、飛天掃帚和隱形鬥篷，筆者常常幻想如果自己擁有一件隱形鬥篷就好了，只要穿上隱形鬥篷，就自由自在地在世上遊走。　　沒想到，現在筆者的這個願望可能就要實現了，加拿大Hyperstealth Biotechnology公司成功研製出了這樣一件「隱形鬥篷
  • 不是霍格沃茨才有隱形「鬥篷」!
    雷鋒網(公眾號：雷鋒網)小編年輕的時候看《哈利·波特》，覺得裡面的隱形鬥篷真是帥哭了不過，美國能源署（DOE）的勞倫斯伯克利國家實驗室的科學家們聯合加州大學伯克利分校的研究者們設計出一種超薄的隱形「外衣」，能貼合物體的形狀，並且檢測可見光使其隱身。
  • 王者榮耀人臉識別多久一次?人臉識別可以換人或照片嗎?
    王者榮耀又要進一步加強健康系統力度了，5月份是繼續下調了未成年玩家的遊戲時間，還增加了未成年每周和每個月的充值數額，這個月則是加強了人臉識別驗證，那麼人臉識別多久一次呢？人臉識別可以用照片或者換人識別嗎？王者榮耀人臉識別多久一次？
  • 超薄隱形鬥篷問世
    近日，加州大學伯克利分校的研究人員製成了一件僅有 80 納米厚的超薄隱形「皮膚鬥篷」，它能夠使小型物體隱形。該鬥篷由磚頭狀金制納米材料製成，圖為其包裹在三維物體上的 3D 景象。 研究人員表示，當前這款高科技鬥篷僅能隱形顯微等級物體，但從技術原理上它能夠比例增大地隱形體積更大的物體。據悉，隱形鬥篷包裹在生物細胞等級大小的三維物體上，能夠依據物體表面突起和凹陷改變形狀。該鬥篷表面的設計可用於變更反射光線波長，當鬥篷在被激活狀態下，可以在光學檢測下隱形。
  • 光遇隱形鬥篷是真的嗎 需要的朋友快來看看
    光遇隱形鬥篷是真的嗎 需要的朋友快來看看時間：2020-07-28 13:21   來源：9553   責任編輯：凌君 川北在線核心提示：原標題：光遇隱形鬥篷是真的嗎 需要的朋友快來看看 光遇裡面有很多酷炫的鬥篷，其中最難得要屬隱形鬥篷，很多玩家就要問了光遇隱形鬥篷怎麼獲得？
  • 光遇隱形鬥篷獲取方法 光遇隱形鬥篷上線時間
    光遇隱形鬥篷怎麼得 ？光遇這款遊戲裡我們的一個重要外觀就是鬥篷， 鬥篷可以說是我們的外觀主體了。各種好看的鬥篷都是十分有裝飾效果的，而在近期有玩家發現別的玩家是沒有鬥篷的，這就是隱形鬥篷的效果了，下面我們一起看一下隱形鬥篷怎麼獲得。