0.5元可買到匹配身份的人臉數據 AI「換臉」究竟有多危險?

2020-11-28 東方財富網

原標題：0.5元可買到匹配身份的人臉數據，AI「換臉」究竟有多危險？

摘要

【0.5元可買到匹配身份的人臉數據 AI「換臉」究竟有多危險？】AI「換臉」你玩過嗎？隨著圖像處理和人工智慧技術的發展，不少「換臉」應用走紅網絡。只要動動手指，就可以將自己的臉替換成明星或是朋友的臉。然而，AI「換臉」給人們帶來歡樂的同時也造成了隱患。有不法分子藉此製作虛假視頻詐騙錢財、利用換臉方式侵害他人肖像權……新技術帶來的新挑戰，給人們敲響了警鐘。（新華網）

　　AI「換臉」你玩過嗎？隨著圖像處理和人工智慧技術的發展，不少「換臉」應用走紅網絡。只要動動手指，就可以將自己的臉替換成明星或是朋友的臉。然而，AI「換臉」給人們帶來歡樂的同時也造成了隱患。有不法分子借此製作虛假視頻詐騙錢財、利用換臉方式侵害他人肖像權……新技術帶來的新挑戰，給人們敲響了警鐘。

　　侵害肖像權社會風險大

　　記者調查發現，AI「換臉」及類似軟體的「坑」不少。不法分子通過收集照片、視頻，利用AI技術「換臉」，用偽造的照片或視頻實施詐騙，使「AI換臉」變成了「AI造假」。AI技術的濫用，不僅給個人帶來肖像權或錢財的損失，還可能引發社會風險。

　　目前，很多銀行等金融機構開設了人臉識別登錄、「刷臉」支付等服務。隨著「刷臉」的場景越來越多，由「臉」的安全帶來「錢」的風險也隨之增長。去年2月，深圳某人臉識別企業被證實發生數據洩露事件，超過250萬人的核心數據可被獲取，680萬條記錄洩露，其中包括身份證信息、人臉識別圖像及GPS位置記錄等。同樣是在去年，歐洲一家公司也曾發生大規模信息洩露事件，數百萬人面部識別信息被洩露。

　　有報導顯示，一些電商平臺以0.5元每份的價格出售匹配了身份信息的人臉數據。業內人士表示，一旦不法分子利用人工智慧技術將照片進行活化，就可以做出模擬真人的點頭、搖頭、眨眼、說話等行為，極易被用作辦理網貸或實施精準詐騙。

　　北京網際網路法院的數據顯示，自2018年9月9日至2020年8月31日，該法院共受理利用網絡侵害人格權糾紛6284件，其中涉網侵害肖像權糾紛4109件，佔比約65.4%。值得注意的是，在網絡環境中，侵害肖像權的行為越來越隱蔽。在北京網際網路法院受理的侵害肖像權糾紛中，約50.8%的侵權行為方式以軟文廣告形式出現，軟文廣告和在網絡店鋪中售賣明星同款商品現象尤為突出。

　　案件攀升快法律嚴限制

　　針對利用信息技術手段「深度偽造」他人的肖像、聲音，侵害他人人格權益，甚至危害社會公共利益等問題，將於明年起施行的《中華人民共和國民法典》明確提出，任何組織或者個人不得以醜化、汙損，或者利用信息技術手段偽造等方式侵害他人的肖像權。

　　今年1月1日起施行的《網絡音視頻信息服務管理規定》中也規定，AI造假音視頻不得隨意發布，要「按照國家有關規定開展安全評估」，並「以顯著方式予以標識」。

　　對此，北京網際網路法院立案庭庭長趙長新表示，肖像權是自然人人格權的基本內容，民法典對人格權獨立成編，體現了對人格尊嚴的莊嚴確認與嚴格保護。網絡技術的發展使肖像獲取更加容易，傳播更加迅速，同時利用信息網絡侵害肖像權的案件近年來也急速攀升。

　　事實上，不只是「換臉」有風險。近年來，人臉、指紋等個人生物特徵信息已經成為身份證號碼、手機號碼等信息之外，過度搜集公民信息案件中的重災區。由於生物特徵信息與個人財產、人格權益之間的聯繫日趨緊密，信息一旦丟失或失控，將給信息所有者造成巨大且難以挽回的損失。

　　中國消費者協會曾發布的《100款App個人信息收集與隱私政策測評報告》顯示，測評的100款App中，有10款App涉嫌過度收集個人生物特徵信息。

　　專家認為，人臉等生物特徵信息具有隨身性、唯一性，隨著技術的發展和成熟，指紋、人臉等生物特徵信息未來將更廣泛地應用於金融、購物、安全等生活場景。不過，在安全性尚未達到百分百，甚至存在可複製性的情況下，由此帶來的風險也需要引起重視，並從法律和技術方面尋求解決方案。

　　利用新技術擰緊安全閥

　　據北京網際網路法院統計，在涉網侵害肖像權案件判決中，每案原告訴請損害賠償金額均值近30萬元，但是每案實際判決支持損害賠償金額均值不足5萬元。導致較大差距主要原因有：權利人對其知名度舉證不足；權利人對其實際損失和侵權行為人獲得利益舉證不足。

　　有專家表示，AI「換臉」法律風險點較多，很多案例對受害人造成的傷害難以及時發覺且極難有效救濟，需要高度關注、積極預防。

　　對此，趙長新建議，肖像權利人可主動採取技術手段檢索肖像被使用情況，及時保全侵權證據，注重收集、保存有助於證明自己社會知名度的證據，一旦涉訴，積極提交損失證明的證據或與侵權損害後果相關證據，如商品交易量、文章閱讀量、侵權持續時間等，為法官酌情認定財產損害賠償金額提供參考。同時，各類網絡平臺要增強法治觀念，積極利用技術手段，建立智能防控、識別、制止侵權行為的有效機制，預防和減少平臺中侵權現象發生。

　　也有專家表示，隨著AI「換臉」使用場景更豐富，行業和監管部門應當加快技術升級，研發相應的「反換臉」檢測技術，加快建立人工智慧算法的安全評估制度，解決相關技術濫用問題。

（文章來源：新華網）

(責任編輯：DF062)

相關焦點

  • 0.5元可買到匹配身份的人臉數據,「換臉」有危險
    隨著人工智慧技術的發展，加之圖像處理技術，一些「換臉」應用迅速走紅網絡。然而，AI「換臉」卻存在著不少隱患。某些電商平臺以0.5元每份的價格出售匹配了身份信息的人臉數據。據業內相關人士表示，利用人工智慧技術將照片進行活化就可以做出模擬真人的點頭、搖頭、眨眼、說話等行為，極易被一些不法分子用作辦理網貸或實施精準詐騙。
  • 人臉識別時代來臨有多危險?央視爆用2元就買到臉造假
    中央電視臺就揭發了市面上只需要用2元人民幣就可以買到過千張人臉照片，不法之徒可以利用這些照片，通過「照片活化」軟體生成動態影片，欺騙人臉核驗機，從而犯案！央視引述一份報告分析，目前中國人臉識別市場規模約佔全球市場的15%左右。
  • AI換臉調查:淫穢視頻可定製女星 700部百元打包賣
    來源: 新京報新京報記者近日調查發現，隨著AI技術走紅以及門檻降低，售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜「換臉＋女明星姓名」的發帖者，售賣通過AI換臉技術合成的視頻，價格可4元一部，也可158元打包購買700部視頻。而多位知名女明星頻被提及。此外，新京報記者注意到，閒魚上還有賣家提供「定製換臉」服務。
  • 換臉新潮流:風靡全球的人臉風格遷移技術引
    第三是多屬性，多場景的效果優化，我們在不斷優化網絡結構的同時嘗試人臉屬性、人臉姿態等約束，並大力提升大規模數據的訓練效率，充分挖掘數據的多樣性特徵，把換臉效果做到更加魯棒、真實、自然。FaceMagic仍在吸引越來越多人的參與，自上線以來，全球生產總量接近1億。功能推出後，每天有超過百萬級的內容生產量。
  • 新技術變成「危險武器」 誰在濫用人臉識別?
    爭議和混亂，也許是人臉識別發展中必經的過程，從目前的狀況來看，這個過程還將持續很久。 1誰在濫用人臉識別？ 面部信息是個人重要的生物特徵，具有強烈的個人身份屬性。 人臉識別技術正越來越多地出現在日常生活中，但人們沒想到的是，在你沒注意的時候，你的臉部數據就已經被「偷竊」了。
  • 從歐巴馬假視頻到ZAO,換臉和人臉檢測技術發生了什麼?
    在本文提及的多個可用資料庫中，FaceForensics++ 是最常用於檢測人臉身份轉換（即「換臉」）和人臉表情操縱的資料庫之一，基於該數據集的操縱檢測準確率在 90-100% 範圍內。此外，本文還討論了該領域的發展趨勢，並對正在進行的工作進行了展望，如近期宣布的 DeepFake 檢測挑戰賽（DFDC）。
  • 兩元錢能買到上千張人臉照片 人臉識別存在信息洩露風險
    目前，在生活中使用最多的生物識別技術是指紋識別和人臉識別　　● 人臉信息屬於個人信息中的敏感個人信息，其一旦洩露或者被非法使用，可能導致人臉的主體受到歧視或者人身、財產安全受到嚴重威脅或危害　　● 在法律法規已有明確要求的「強認證」場景(如公共安全、金融支付)下，使用人臉識別完成精確的身份比對和驗證，有其必要性和合理性，但也要對人臉數據進行妥善保管，不得洩露、濫用。
  • Deepfake陰影下的「人臉識別時代」全面到來!我們可能遭遇什麼危險?
    實際上，人臉識別本質上也就是一種身份識別技術。如今，身份識別在各個領域都至關重要，而身份識別的方法目前主要有三種。一是密碼識別。密碼是最古老的身份識別工具，也是目前的主流工具。但是，密碼識別會有被破解的風險，也常出現遺忘、弄混的情況。
  • 人臉識別時代,我們該如何保護自己的隱私?
    在新京報記者的採訪中，多位專家告訴我們，有幾個問題是我們必須要注意的，與此同時我們必須要了解某些機構濫用人臉識別有何法律風險，同時明確人臉信息採集的法律邊界究竟在哪，這樣就能在必要的時候採取法律的手段保護自己。怎麼辨別人臉識別技術有害？
  • 人臉識別主要依靠了基於圖像的空間邊緣檢測技術
    ai換臉技術引起很多人的擔憂，怕外貌損害。這次任性哥帶你回歸本源，用人臉識別，再現青澀年華，你也可以擁有金融界鼻祖級的辨識力。最近我們也在研究人臉識別這個方向，今天就針對這個做個簡單的介紹。什麼是人臉識別？
  • 人臉識別 有溫度更要守法度
    如何讓人臉識別即便捷、又安全，成為社會各方的關注焦點。落地場景多濫用引爭議選好商品，在櫃檯前選擇刷臉支付，通過人臉識別後，只需輸入手機號碼後幾位就可完成付款——在北京一家甜品店內，不少消費者通過刷臉支付設備為所購商品結帳。
  • 夏日專刊AI產品上新升級集錦,50餘項軟硬能力加速場景落地
    企業服務領域方案 乘風平臺（人臉通行考勤平臺）正式上線依託百度大腦人臉識別能力，提供端到端的一站式通行考勤的解決方案，可以滿足企業對智慧通行、無感考勤等場景的管理需求，實現跨地域、跨環境的人臉設備在線管理，適配多模態設備接入，實現端雲數據同步。
  • 人臉識別:AI產品經理需要了解的CV通識
    最近整理了CV方向的一些產品基礎知識，我的上一篇文章《看AI產品經理如何介紹「計算機視覺」（基於實戰經驗和案例）》算是這個系列的第一篇；本文是本系列下的第二篇，主要針對人臉識別進行梳理。後續還會有多目標跟蹤、OCR等方向的內容。
  • 人臉識別技術和產業風險凸顯 需構建相應的監管機制
    居民掃描人臉後，可將垃圾放到拍照處識別，若垃圾識別成功，垃圾桶開啟，完成垃圾分類。CB Insights「2019 年全球AI企業100強榜單」中，排在前11位的5家中國公司成立年限僅3~8年，多為5年內催熟而成，在基礎研究領域普遍缺乏深度和定力。另一方面，數據裸奔導致隱私洩露現象漸重。
  • 到處都是人臉識別,我們如何保護個人隱私?
    個人隱私信息的擔憂關於機場的人臉識別，有網友提出疑問：如果是公安部門，我們沒有異議，但是，機場本質上是服務者，它有什麼權力採集和使用公民的生物信息？這種信息和採集有沒有經過授權？是否合法？其實，關於人臉識別等數據信息和個人隱私矛盾並不鮮見。
  • 10秒跟明星換臉?這款AI換臉軟體一夜走紅!但用戶協議你看了嗎
    不少網友已經嘗鮮，但仍有很多網友表示該APP的用戶協議有隱患，擔心隱私洩露。換臉軟體「ZAO」一夜爆紅「ZAO」是一款使用AI技術換臉的軟體，據它的應用介紹，只需一張正面照，就可以玩轉所有表情包和經典影視片段，讓你過足戲癮。用戶註冊完成後，系統會提示你選擇一張圖片——在你的相冊中，很多照片不清晰或者非正臉的照片都被系統否決的，不允許上傳。
  • 微信封殺 AI 換臉 ZAO，網頁顯示存在安全風險
    9月2日消息，近日一款名為 ZAO 的換臉軟體一夜爆紅，刷屏了各大社交媒體，最初刷屏的內容是該軟體生成的換臉視頻，而後來刷屏變成了各種安全威脅，比如支付寶人臉支付、ZAO軟體強勢的用戶協議。從發布到爆紅，ZAO 僅僅用了一天時間，朋友圈微博等社交媒體都被刷屏，而隨著越來越多的人加入，有用戶發現 ZAO 的隱私協議存爭議，因此引發了二次刷屏，但顯然這次刷屏對於
  • 影譜科技發布智能影像技術引擎MAGC2.0,成為數字經濟的要素技術
    其中：進一步增強機器學習系統架構，動態管理企業在雲端及邊緣端進行分布式模型訓練、神經網絡搜索、模型優化、快速部署；通過文字、語音、圖片、視頻等多模態的方式檢索視頻大數據，在隱空間語義層面進行匹配，生成相應的視頻；升級數字人算法，使機器能生成照片級別的自然頭部動作、表情和身體動作，並具備自然語言交互能力；通過更先進的3DMM人臉建模技術及神經網絡渲染技術，完成更加靈活的人臉重現，生成更加逼真的換臉視頻
  • 趣味換臉APP 《臉優》可錄製20秒小視頻
    《臉優》可錄製最長20秒鐘的小視頻或者拍攝換臉之後的照片，界面中有個小小的調色按鍵，開啟後可讓顏色飽和度更高，看上去更鮮豔一些。錄製視頻的過程當中支持隨時更換其它人臉，但目前不支持其它美化效果。
  • 百度大腦領先活體檢測+合成圖鑑別 讓人臉「照片活化」無從遁形
    有人通過「換臉」技術進行色情視頻生成、虛擬政治人物講話等，造成嚴重不良影響；更有黑產使用人臉「黑科技」非法牟利。近日，各大媒體紛紛報導的人臉「照片活化」，便是黑產對個人身份信息造成洩露危害的新技術手段。據調查了解，黑產賣家出售的「照片活化」工具，可將人臉照片修改為執行「眨眨眼、張張嘴、點點頭」等操作的人臉驗證視頻。