「AI換臉」騙過人臉識別!這些應用更安全……

2020-12-22 澎湃新聞

「AI換臉」騙過人臉識別!這些應用更安全……

2020-10-27 10:14 來源:澎湃新聞·澎湃號·媒體

購物時「刷臉」支付、用手機時「刷臉」解鎖,進小區時「刷臉」開門……如今,越來越多的事情可以「刷臉」,用人臉識別技術來解決。

近日發布的一份報告顯示,有九成以上的受訪者都使用過人臉識別,不過有六成受訪者認為人臉識別技術有濫用趨勢,還有三成受訪者表示,已經因為人臉信息洩露、濫用而遭受到隱私或財產損失。那麼「刷臉」時代,我們的人臉信息安全嗎?

人臉識別存在哪些風險?

對於人臉識別,多數人是又愛又恨,愛的是它的方便快捷,恨的就是安全風險。

嫌疑人「AI換臉」騙過人臉識別實施犯罪

在警方今年破獲的兩起盜用公民個人信息案中,值得注意的是,犯罪嫌疑人都是利用「AI換臉技術」非法獲取公民照片進行一定預處理,而後再通過「照片活化」軟體生成動態視頻,騙過了人臉核驗機制,得以實施犯罪的。

面具可代替人臉解鎖手機嗎?

測試中,科研人員在手機對面放上面具,然後進行光線、色溫以及角度的調節。通過幾次比對,手機成功解鎖。

專家表示,這款面具的製作成本並不高,3D列印技術就可以製作出精度尚可的人臉面具或頭套。只要不是在極暗或極亮的背景下,通過面具或頭套進行人臉識別的成功率高達3成。

如何增強人臉識別安全性?

專家表示,目前最簡單的人臉識別,只需要採集、提取人臉上的6個或8個特徵點就能實現。而複雜的人臉識別,則需要採集、提取人臉上的數十個乃至上百個特徵點才能實現。相比於解鎖手機,「刷臉」支付、「刷臉」進小區等應用,採集的人臉特徵點更多,安全性自然也更高。

此外,目前已經研發出了專門針對生物特徵的活體檢測技術,可有效識別掃描對象的生命體徵,大大降低了識別系統把照片或面具當人臉的風險。

2元就能買上千張照片 人臉信息是如何洩露的?

經調查發現,在某些網絡交易平臺上,只要花2元錢就能買到上千張人臉照片,而5000多張人臉照片標價還不到10元。

商家的素材庫裡,全都是真人生活照、自拍照等充滿個人隱私內容的照片。當記者詢問客服,這些圖片是否涉及版權時,客服矢口否認,但卻提供不了任何可以證明照片版權的材料。

這些包含個人信息的人臉照片如果落入不法分子手中,照片主人除了有可能遭遇精準詐騙,蒙受財產損失之外,甚至還有可能因自己的人臉信息被用於洗錢、涉黑等違法犯罪活動,而捲入刑事訴訟。

在專家看來,當下人臉識別技術的風險點,更多集中在存儲環節。由於人臉識別應用五花八門,也沒有統一的行業標準,大量的人臉數據都被存儲在各應用運營方,或是技術提供方的中心化資料庫中。

數據是否脫敏、安全是否到位、哪些用於算法訓練、哪些會被合作方分享,外界一概不知。而且,一旦伺服器被入侵,高度敏感的人臉數據就會面臨洩露風險。

個人信息法草案發布 人臉信息保護更規範

為了封堵這個漏洞,專家提出了多種技術改進,並進一步指出,人臉數據存儲應該建立更嚴格的標準和規範,技術開發方、APP運營方應該在更趨嚴格的監管、法律以及行業規範下採集、使用、存儲數據。

針對人臉信息被濫用、盜用、隨意採集的現象,法律專家指出,網絡安全法明確將個人生物識別信息納入個人信息範圍。我國民法典規定,收集、處理自然人個人信息的,應當遵循合法、正當、必要原則,徵得該自然人或其監護人同意,且被採用者同意後還有權撤回。

目前,《中華人民共和國個人信息保護法(草案)》正在面向社會公開徵求意見。草案提出,在公共場所安裝圖像採集、個人身份識別設備,應當為維護公共安全所必需,遵守國家有關規定,並設置顯著的提示標識。所收集的個人圖像、個人身份特徵信息只能用於維護公共安全的目的,不得公開或者向他人提供;取得個人單獨同意或者法律、行政法規另有規定的除外。

來源:央視新聞

原標題:《「AI換臉」騙過人臉識別!這些應用更安全……》

閱讀原文

關鍵詞 >> 媒體號

特別聲明

本文為澎湃號作者或機構在澎湃新聞上傳並發布,僅代表該作者或機構觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。

相關推薦

評論()

相關焦點

  • 「AI換臉」騙過人臉識別!2元就能買上千張人臉照片
    「AI換臉」騙過人臉識別!嫌疑人「AI換臉」騙過人臉識別實施犯罪在警方今年破獲的兩起盜用公民個人信息案中,值得注意的是,犯罪嫌疑人都是利用「AI換臉技術」非法獲取公民照片進行一定預處理,而後再通過「照片活化」軟體生成動態視頻,騙過了人臉核驗機制,得以實施犯罪的。
  • 2元買千張人臉照,換臉技術成為詐騙新手段
    而由全國信息安全標準化技術委員發布的《人臉識別應用公眾調查報告2020》稱,有九成受訪者都使用過人臉識別,六成認為人臉識別有濫用趨勢,三成表示個人隱私或財產安全已經因此遭遇損失。 在如此緊急的事態下,人臉識別技術作為目前市場上商用程度最高的生物識別技術,已經飽受質疑。
  • 百度大腦最新發布人臉合成圖甄別能力,人臉識別活體檢測更安全
    層出不窮的「AI換臉技術」被開源,那麼,手機上傳的動態視頻還都是真人嗎?當今生活中,無論金融理財、醫療社保,還是登錄社交帳號、刷臉考勤,通過「人臉識別」核驗用戶身份已十分常見。人臉識別中的活體檢測,普遍通過動作檢驗或靜默驗證,證明是「真人」而非圖片,其解決了用列印、翻拍照片、面具等通過人臉識別的問題,但依然有部分用戶上傳AI變臉、換臉等合成視頻企圖矇混過關。一系列「換臉」技術對人臉圖像的合成及篡改很難通過肉眼辨別真偽,且人臉數據涉及到用戶肖像、隱私等個人信息,篡改人臉數據也對用戶個人信息安全造成了威脅。
  • 人臉搜索,在 AI 的陰暗面肆無忌憚
    人臉識別技術自誕生以來就伴隨著爭議,隱私、安全等問題與這項技術一同成長。人臉識別技術愈發成熟,與之相關的安全問題就更加複雜、嚴重,雖然成為了人工智慧領域最為成熟的技術之一,但有幾人能夠真正接受人臉識別在生活中的無孔不入呢?
  • AI「換臉」有危險(網上中國)
    遊客在上海外灘觀光隧道的未來藝術館的畫作前體驗人工智慧的換臉技術。楊建正攝(人民圖片)一些網絡黑產從業者利用電商平臺,批量倒賣非法獲取的人臉等身份信息和「照片活化」網絡工具及教程。徐 駿作(新華社發)AI「換臉」你玩過嗎?
  • 戴口罩人臉照片2毛一張暗中交易!人臉識別安全如何保障?
    隨著在高鐵票務、門禁與安防、智慧型手機、金融與行動支付等方面對人臉識別的規模化使用,人臉識別技術正在向更多行業滲透,業內人士評估在中國市場一年已近30億規模。 但是,一方面是快速普及應用,另一方面是時有發生的安全漏洞及相關信息洩露事件。
  • 小區人臉識別應用實測:有App明文上傳人臉照片及房產證
    從中國「人臉識別第一案」一審宣判到售樓處暗中使用人臉識別,從北京推出人臉識別垃圾桶到東莞公廁停用人臉識別供紙機,過去一年中,人臉識別應用正在經歷越來越嚴格的公眾審視。12月22日,由南都個人信息保護研究中心主辦的「2020啄木鳥數據治理論壇」在北京舉行。
  • ZAO一夜爆紅,AI換臉應用引發全民熱議:我們的支付安全有保障嗎
    8月31日,一款名叫「ZAO」的AI換臉應用一經上線,短時間內刷爆朋友圈。這款App據說可以只憑藉一張照片就可以讓人「改頭換面,一經上線,便引起廣大網友的關注。截至到9月1日,「ZAO」已經在蘋果應用商店App Store的免費App下載排名中穩居第一,這足以證明用戶對這款軟體的關注程度。與此同時,作為一款AI換臉軟體,「ZAO」刷屏後引發的隱私安全焦慮也迅速升溫。8月31日晚間開始,有網友聚集在「ZAO」的官方微博,要求註銷帳號,刪除本地面孔。
  • 全球首款「反AI變臉刑偵檢測工具」,專用於檢測AI變臉/換臉造假技術
    如今,以GAN為代表的AI換臉術盛行,相應的人臉檢測識別技術也不得不提升,這僅僅是一場漫長而又精彩的AI軍備競賽的開始。 昨天,新智元介紹南加州大學「殺馬特教授」黎顥率領的Pinscreen團隊的實時3D變臉技術後,引發了不少讀者的擔憂。
  • 百度大腦領先活體檢測+合成圖鑑別 讓人臉「照片活化」無從遁形
    這些造假的人臉數據會利用系統漏洞騙過部分平臺的人臉識別機制,被用來解封社交平臺的凍結帳號,或修改金融保險應用的個人信息,造成帳戶被盜取,帶來財產損失。更有甚者,一些非法分子還藉此繞過部分婚戀交友平臺或實名制開手機卡的人臉識別認證機制,用於虛假註冊、網絡詐騙、敲詐勒索等違法犯罪活動。
  • 黑客騙過人臉識別?清華系AI公司發布首款人工智慧殺毒軟體
    騙過人工智慧的「眼睛」已經不再是一件難事。類似的技術戲法如今已被廣泛應用,黑客可以通過一副「對抗樣本」眼鏡輕鬆實現身份偽裝,破解手機面部解鎖,或是偽裝成他人完成銀行和政務系統的身份認證,甚至打開人臉識別門鎖,竊取財產。
  • 市場嘗鮮戴口罩人臉識別|人臉識別|中關村科學城|姚顯駿|商湯科技
    繼去年鄭州地鐵、今年1月西安地鐵開通「刷臉乘車」後,今年7月,哈爾濱全線網27座車站正式上線了升級版,「戴著口罩」直接過閘進出站。而這些項目的背後,則基於商湯科技的SenseMeteor睿知智慧軌交平臺。商湯科技從2018年就進入了這個市場,最開始做了一些前期的探索工作,包括對市場規模、痛點、需求都做了詳細的梳理。在2019年下半年左右真正明確了行業機會,加大投入。
  • 市場嘗鮮戴口罩人臉識別|商湯科技|人臉識別|中關村科學城|姚顯駿
    繼去年鄭州地鐵、今年1月西安地鐵開通「刷臉乘車」後,今年7月,哈爾濱全線網27座車站正式上線了升級版,「戴著口罩」直接過閘進出站。而這些項目的背後,則基於商湯科技的SenseMeteor睿知智慧軌交平臺。商湯科技從2018年就進入了這個市場,最開始做了一些前期的探索工作,包括對市場規模、痛點、需求都做了詳細的梳理。在2019年下半年左右真正明確了行業機會,加大投入。
  • AI換臉,一天就涼了?
    大量用戶使用這款App,上傳自拍照片,將自己「變成」影視片段的主角,並將這些「改頭換面」過的視頻片段,上傳微信朋友圈等社交平臺,引發「病毒式」傳播。8月30日正式上線,8月31日下午14時,「ZAO」在蘋果應用商店App Store的免費App的下載排名中已躍居第二。其火爆程度可見一斑。
  • 「人臉識別第一案」主訴人郭兵:我為什麼推動「人臉識別」入法
    我身邊的朋友很多都比較關注個人信息的安全風險,特別是學過法律的朋友。「修訂草案」增加了對人臉識別的規定後,他們大部分都認可這一條規定是對業主權利的保障,畢竟有了權利,個人可以行使也可以放棄。也有人提出了不同意見,他們從管理和便利的角度認為,人臉識別技術提供了便利和安全,特別是在打擊違法犯罪方面非常有效。如果一個被通緝的逃犯想進入小區,一旦被刷臉設備掃到,可能也更加容易被發現。
  • AI換臉暗藏風險 技術應用亟待規範
    這時候,用同一個演員由年輕到老年的經歷,更能體現出時間的無情、衰老與被遺忘的傷感。因此,影片中羅伯特·德尼羅、阿爾·帕西諾和喬·佩西等幾位70多歲的演員,依靠「數字減齡」技術減齡到40歲左右,特別是男一號德尼羅,在電影中更是展現了中老年各個年齡段的樣貌。當導演希望呈現「時間魔法」時,就更需要同一個人來完成。
  • GDPR生效後的第一張人臉識別罰單|騰訊網絡法專報
    作為國內第一個爆款級AI換臉應用,ZAO的換臉操作門檻很低,用戶在通過人臉識別完成肖像權驗證之後,就可以通過拍攝或上傳人臉照片來合成視頻。其將之前只是聽說的技術帶到現實生活中,引發了諸多爭議,例如收集人臉等個人生物識別信息未獲用戶明示同意、個人信息處理規則不清晰、過度索取肖像權、著作權侵權、數據洩露或濫用風險等。
  • AI換臉只是玩玩?黃網都不敢碰的技術有多恐怖
    [PConline雜談]最近,AI換臉應用「ZAO」的出現,引起了軒然大波。ZAO的最大賣點,就在於可以將視頻中的人臉,通過AI算法「PS」換成另一個人的相貌。只需要把照片上傳到ZAO當中,就能夠將視頻P成相應的臉,可謂是操作簡單、效果明了。也因為如此,ZAO一出現就引來了人們的激烈討論,畢竟誰也保不準自己會不會被P進小電影中,變成奇怪劇情的主人公。
  • 利用信息網絡侵害肖像權的案件攀升 AI「換臉」有危險
    徐 駿作(新華社發)AI「換臉」你玩過嗎?隨著圖像處理和人工智慧技術的發展,不少「換臉」應用走紅網絡。只要動動手指,就可以將自己的臉替換成明星或是朋友的臉。然而,AI「換臉」給人們帶來歡樂的同時也造成了隱患。有不法分子藉此製作虛假視頻詐騙錢財、利用換臉方式侵害他人肖像權……新技術帶來的新挑戰,給人們敲響了警鐘。
  • AI翻譯器、AI換臉、人工智慧MOSS……這些流浪地球中的黑科技百度...
    AI換臉在故事開頭,主人公劉啟偷了姥爺的工作證,並找辦假證的給妹妹也搞了個假證件,還有兩套防護服,這種在電影中鍵盤敲幾下的功夫就完成的「換臉」技術,正是基於人臉識別技術。關於人臉識別技術,百度在業界擁有毋庸置疑的領先地位,在2018年,百度憑藉自主研發的人臉檢測深度學習算法PyramidBox,在世界最權威的人臉檢測公開評測集WIDER FACE的「Easy」、「Medium」和「Hard」三項評測子集中均獲得冠軍,也打破了歷史記錄。