多模、AI 齊上陣,Deepfake 換臉術剋星駕到!

2020-12-24 CSDN

作者 | 馬超

責編 | 伍杏玲

「假作真時真亦假,無為有處有還無。」

近年來基於AI換臉的技術,不但在 GitHub 上時常興風做浪,也經常引發各大社交媒體的大規模口水戰。去年 AI 換臉技術開始在 Reddit 社區流行,一位名叫 Deepfakes 的「大神」發出不雅視頻,影片女主角竟然是知名影星,由於內容低俗短時間吸引就使得 Deepfakes 聚集大量人氣,很快 Reddit 封殺Deepfakes 的視頻,同時 GitHub 對 Deepfakes 及其衍生項目進行封殺。

去年4月初,我國網名叫「換臉哥的極客」將朱茵在94版射鵰中的黃蓉換成了楊冪,整段視頻毫無違和感,這也讓國人初次體會到了AI換臉的威力。

後來一款名叫 ZAO 的 App 橫空出世,在直播平臺上主播們利用實時換臉技術,可以將自己換成某些一線明星來吸引眼球,火爆一時。

今年年初使用自編碼模型技術的AI換臉項目 ALAE 成功登頂 GitHub 趨勢榜(https://github.com/podgorskiy/ALAE),相比之前的 Faceswap 以及 Deepfakes 等換臉項目,ALAE可謂將 AI 換臉帶到新高度,這種最新的技術突破了之前的解析度極限,可以生成高清的換臉圖像,以下是效果圖:

這些換臉的項目終於迎來了剋星!微軟打造的視頻鑑真工具,可以讓經由 Deepfake 等工具處理的偽造視頻原形畢露,其鑑別成功率可達99%以上,以下是鑑定效果圖:

歌神頻繁助攻抓罪犯,人臉識別成 AI 應用領域 C 位

在歌神張學友的演唱會上,AI至少不下5次幫助公安機關抓捕到逃亡多年的嫌犯。這讓那首經典的《她來聽我的演唱會》有了新的含義。當時大眾普遍對 AI 還缺乏了解,據稱當時犯人在被捕時都一臉茫然,沒想到人臉識別技術能在若干年後準確找到他們,人們驚呼原來人臉識別準確率這麼高 。

人臉識別技術在人員身份認證上所體現出來的便捷性及帶來的效率提升,相關人臉識別產品、解決方案層出不窮。人臉識別被廣泛應用於機場、火車站、社區、園區等諸多場景的身份識別、考勤打卡及金融支付應用當中。這開啟了一個方便快捷的時代,用戶不需要輸入密碼,甚至連手指不需動一下就能完成相關的身份認證,其來勢洶洶的氣勢讓很多金融機構也不得不放下身段,躬身入局,向科技公司請求AI技術的加持,把人臉識別加入自身安全認證體系當中。

AI換臉技術的出現,著實給人臉識別技術的安全性造成了不小的挑戰,比如去年5月美國議長南希·佩洛西的一段醉酒視頻在 Facebook 上流傳甚廣,視頻中的議長明顯是狀態暈沉,醉意十足,後來證明這是一段是 由Deepfake 生成的假視頻。

Facebook 創始人小扎的一段視頻也開始瘋傳,在視頻中小扎說「讓我們快速地想像一下,一個人手握偷竊來的數十億人的隱私信息,他們的所有秘密、生活和未來等等 」,這也是 Deepfake 傑作。

隨著對抗神經網絡(GAN)的不斷發展,AI生成的假人物越發真假難辯,尤其去年底一名叫做Katie Jones的女政治家,似乎正在美國政壇冉冉升起,她在頂級智庫工作,擁有由一批專家和權威人士組成的關係網。她與一名助理國務卿、一名參議員的高級助理以及經濟學家 Paul Winfree 都有聯繫,搜尋引擎上也能查到相應的新聞報導,不過這位女士並不存在,對此美聯社已經作出確認,其面部信息是合成的,其相關新聞都是AI捉刀寫的。據說這樣的幽靈用戶在臉書上還有幾十萬個,這些帳戶可以在社交媒體上不知疲倦的發貼點讚,對於時事發表觀點,這也是川普當局指責臉書幹擾美國大選的主要原因之一。

魔高一尺道高一丈,AI鑑定技術的進步

雖然AI換臉技術不斷發展,但是AI鑑定技術也一直在進步,比如在去年CVPR2019 大會上,Photosho p母公司 Adobe 聯手伯克利共同推出了論文《Learning Rich Features for Image Manipulation Detection》,提出的模型可以用於偵測圖像是否有被 PS 修改過。

這款反 PS 工具準確率極高,據論文數據顯示,一般人眼分辨 PS 痕跡大約有 53% 準確率,即使是專業人士不超過 70%,這款反 PS 工具識別準確率高達99%以上。

CVPR2020 上,由華為與復旦大學聯合發表了一篇論文《FM2u-Net: Face Morphological Multi-Branch Network for Makeup-Invariant Face Verification》,這篇論文可以通過 AI 將照片中的人物卸妝,防止戀愛中的男女被「照騙」。

此次由微軟推出的鑑真工具可進行逐幀分析,以驗證圖像有無存在篡改,不過此工具僅對 Deepfakes、Faceswap 等算法有效,如果使用一種沒有公開或者未知的算法,其鑑定準確率無法保證,微軟承認最安全的方法還是基於其雲服務Windows Azure 的組件對圖像添加數字散列和證書。無論如何現在這樣一套可以針對已知換臉算法進行鑑定的工具,還是很有價值和現實性意義的。

換臉並不可怕,多模鑑定才是關鍵

去年年末,谷歌發表了論文SV2TTS(https://arxiv.org/pdf/1806.04558.pdf),SV2TTS 使用低解析度的原音信息,在短時間內完成轉換,生成新的聲音。這個算法一經問世,就技驚四座,瞬間霸榜GitHub。這種換聲技術的出現,再結合三星提出 Speech-Driven Facial Animation 生成的視頻不僅可以產生與音頻同步的唇部動作,還可以呈現特有的面部表情,例如眨眼,眉毛等,同時能夠捕捉說話者的情緒並將其反映在面部表情中。

這將使得單純的AI換臉鑑定失去其原有意義。可以說目前只利用單一技術手段的「單模」用戶身份識別方案,其可信性與安全性都要打上一個大大的問號,據最新的用戶體驗調研,但凡要在操作中多付出一秒的時間就要承擔30%左右的用戶流失,企業不能接受這成本的。所以讓用戶走回相對安全密碼認證的老路完全行不通,這要求大家在安全性與用戶體驗方面做出平衡選擇,這正是多模融合身份識的戰略機遇。

多模態融合的生物識別實際共有兩層含義,一是指綜合使用「人臉、指紋、掌紋、聲紋」多模態的等生物信息,二是指在人臉識別領域,綜合使用「2D人臉、3D人臉、多光譜人臉」等多種模態,以發揮各模態特定的優勢。比起單模態的識別技術,多模態類似於一種結構化框架,綜合獲取多渠道的信息,並根據相應渠道的權值來取得最終結果,這樣不僅提升了系統的識別的準確率,還提升了系統的可靠性與容錯能力。

在多模識別方面我國進展很快,近日阿里宣布在電氣和電子工程師協會(IEEE)成功申請成立「行動裝置生物特徵識別」標準工作組,並立項「生物特徵識別多模態融合」國際標準,牽頭生物識別國際標準的訂立。相信成立標準工作組及國際標準,有助於中國APP在全球範圍內實現更安全、更規範的應用。據悉,此前阿里及螞蟻集團已主導及參與制定ISO、ITU國際標準以及國家標準90餘項,其中30餘項為生物識別技術領域的國際和國家標準。

「一流的公司定標準,二流的公司做技術,三流的公司做產品」,歷來龍頭企業之間歸根結底都是標準之爭,如果從頂層規定了技術框架、業務流程、功能要求、性能要求以及安全要求,實際引領了整個時代的潮流,並掌握話語權。

相關焦點

  • 秒殺Deepfake!微軟北大提出AI換臉工具和假臉檢測工具
    另一方面,研究人員也在不斷開發能夠檢測deepfake假圖像的識別工具。這場在機器學習圖像識別領域的「矛與盾」之爭愈演愈烈。最近,微軟研究院和北京大學的研究團隊就同時造出了一對「利矛」和「堅盾」,他們發表的兩篇論文分別提出了FaceShifter和Face X-Ray——前者是一種高保真度、可識別遮擋的換臉工具,後者則是能夠檢測偽造人臉圖像的工具。
  • Deepfake AI換臉,一場「貓和老鼠」的追擊戰
    網上熱傳的換臉神器,是一種利用更深度學習技術識別和交換圖片、視頻中人物臉部圖像的工具,被稱為深度偽造,也就是Deepfake,它不僅製作過程簡單而且逼真度驚人。普通大眾接觸到的Deepfake已經是通過它製作出來的成品,比如徐錦江版的海王、復活的張國榮,被楊冪版黃蓉。
  • Kaggle Deepfake競賽|換臉圖像、AI換臉視頻、高仿語音版Deepfake,這項開掛的技術未來還能走多遠?(3/3)
    調查發現,普通民眾的態度令人大吃一驚:與這些官方或者公眾平臺的態度相反的是,許多人對於deepfake技術有一種盲目樂觀的觀點,即技術進步必然是好的。這就導致了許多人並不能意識到deepfake深度學習假視頻的潛在危害。這證明了,目前我們應該將這種技術的用途和使用方法劃分清晰,如哪些是用於技術實驗研究,幫助媒體世界的技術發展,而又有哪些則是基於圖像的虐待,是抱有惡性目的的(非自願色情換臉、政治攻擊等)。如果我們能劃分清楚這項技術的用途。就可以有針對性的努力降低風險,減輕危害。
  • Deepfake究竟是造福人類還是一個詛咒呢?
    AI換臉,又叫Deepfake,是人工智慧的一個分支,如果按族譜算,無人汽車、阿爾法狗、微軟小冰等比較出名的產品,都是Deepfake的哥哥。但在Deepfake的世界中,身份就是沒有身份,美猴王可以打起籃球,蘇大強可以變成吳彥祖。
  • Deepfake誕生三周年,人類已無法阻止AI換臉
    原來,這是小玉為了向民眾呼籲假新聞的風險,而利用Deepfake技術所製造出來的假影片。該影片很快就上了熱門影片排行,掀起網友熱議。 Deepfake是一種透過人工智慧(AI)中的deep learning(深度學習)技術所創造出的fake(偽造)信息。Deepfake技術可以用於影像及聲音,只需要仿造對象的人物影音素材,就能製造出唯妙唯肖的假影片。
  • FB壕擲千萬辦換臉視頻檢測挑戰賽,網友:這是幫Deepfake訓練鑑別器嗎?
    郭一璞 發自 凹非寺 量子位 報導 | 公眾號 QbitAI換臉AI Deepfake製造的視頻,讓女明星們蒙受不白之冤,讓吃瓜群眾誤以為有視頻有真相
  • 用deepfake拍電影可以安排了:迪士尼發布首個百萬像素高解析度換臉算法
    最流行的開源deepfake模型DeepFakeLab,在今年的更新中,最大解析度也只達到了320×320。而這隻來自迪士尼和ETHZ的全新deepfake,在保持高度流暢這一優良傳統的同時,還一舉把解析度拉高到了1024×1024的水平。這也是deepfake的解析度水平首次達到百萬像素。
  • 換臉蔡徐坤的AI技術,會成為色情報復的利器
    deepfake是怎麼成為色情復仇的新工具的?不過,deepfake第一次廣泛出現在觀眾視線的,並非令人逗樂的鬼畜創作,而是在Pornhub上流行的「deepfake」系列視頻,就是把自己喜歡的女明星的臉,放上色情片女主角臉上。
  • 《連線》:AI生成的文字將是最可怕的Deepfake內容
    但現在,距離11月3日還有3個月左右的時間,一波deepfake內容似乎從未斷過。相反,另一種人工智慧生成的媒體形式正在成為頭條新聞,這種媒體更難被發現,卻更有可能成為網際網路上一股無孔不入的力量:deepfake文字。《連線》稱,上個月推出的GPT-3是生成式寫作的下一個前沿:一個可以產生令人震驚的句子的AI。
  • 谷歌 AI 開源 Deepfake 檢測數據集,3000+ 真人...
    v=x2g48Q2I2ZQ為了製作這個數據集,在過去的一年裡,谷歌與眾多演員合作錄製了數百段視頻;並使用公開的 deepfake 生成方法,從這些視頻中創建了數千個 Deepfake 假視頻。這些由真實視頻和虛假視頻組成的數據集組成了可用於 Deepfake 檢測和識別的素材。
  • 音頻版Deepfake詐騙案正在興起,專家:需警惕
    我們看到,在馬斯克的這段演講視頻中,Deepfake的換臉技術幾乎達到了人眼無法區別的地步。不過,隨著技術的不斷成熟,Deepfake卻帶來隱藏的「虛假」風險。自從2017年,一位網友將美國女星和成人電影女主做了人臉交換,偽造了一段色情視頻後,有關濫用Deepfake製造虛假、不良內容的視頻一直充斥於網絡。
  • 一文了解Deepfake 2020發展現狀
    具體來說,Deepfake主要是對人臉進行篡改和重新編輯,包括表情修改,換臉、換口型、合成新人臉四種模式。其中,換臉和對口型是Deepfake最主要的應用模式,其破壞性和殺傷力也最強。如篡改政客公開演講以及偽造色情視頻。值得注意的是,造假者無需了解這些修改模式背後的技術原理,諸多開源軟體,已經可以讓他們輕鬆地製造虛假內容。
  • AI換臉後毫無違和感
    直到一位名叫deepfakes的reddit用戶以另一種方式徹底打開了潘多拉魔盒,他給出的答案是:可以給明星換臉。同時這也只是開始,隨後還出現了如FakeApp等更為簡化的換臉操作軟體,換臉技術開始逐步得到了平民化應用,你可以看到它的中文官網以及其中的相關教程。可以說,deepfakes的出現讓普通人也能玩得起原本實驗室研究的東西。
  • 為什麼我們對deepfake技術又愛又恨?| 有機社會·Post
    Topic:為什麼我們對deepfake技術又愛又恨?Deefake到底是什麼?即便你對這個近來AI界頻頻出現的熱詞不夠了解,對「AI換臉」也一定不陌生。從國外的惡搞歐巴馬、蓋爾加朵,到國內的朱茵換臉楊冪、以及ZAO App的曇花一現。
  • 換臉視頻毫無PS痕跡,AI黑科技再度引爭議
    這則換臉視頻所使用的技術叫做「deepfake」(人工智慧深度換臉)。中國日報介紹道:Images produced with "face-changing" technology are better known as deepfakes, a portmanteau of "deep learning" and "fake".
  • 朱茵變楊冪——FakeApp 破解版 換臉簡易教程,附圖文安裝和視頻地址
    image.png那麼,AI換臉背後是怎麼回事呢?不止朱茵變楊冪從換臉程序deepfake傳入國內開始,就有不少網友製作過換臉視頻。比如把宅男們喜聞樂見的女主播換成國內當紅小花。【社群流量】朱茵變楊冪,流量一個億——FakeApp 破解版 換臉簡易教程,附圖文安裝和視頻地址AI換臉技術deepfake已經出現一年多,造出了無數假視頻。在國外,它被引到了「不可描述」的方向。
  • 楊冪換臉成朱茵,AI 換臉術已出神入化
    從換臉程序deepfake傳入國內開始,就有不少網友製作過換臉視頻。比如把宅男們喜聞樂見的女主播換成國內當紅小花。AI換臉技術deepfake已經出現一年多,造出了無數假視頻。在國外,它被引到了「不可描述」的方向。在Reddit論壇上,它掀起過一股熱潮,甚至出現過專門的討論區。
  • AI 換臉或受《民法典》人格權編嚴監管,我們該如何防範技術作惡
    AI 換臉在技術層面只是做深度學習訓練的一個切入點,往往兼具娛樂性。但在應用和商業方面,很多換臉軟體遊走在灰色地帶,甚至引發法律風險。現在,人們通常用 deepfake(可直譯為深度造假)來指代那些會造成不良影響的 AI 換臉影像成品和軟體。隨著 deepfake 的泛濫,多個國家已出臺政策法規監管。
  • 「AI 大毒瘤」Deepfake 識別賽排名出爐!3.5 萬種算法準確率最高...
    為應對自 2017 年起引起全球恐慌的「AI 大毒瘤」Deepfake,政府、企業、學界聯合發力。2019 年,Facebook 斥巨資發起「Deepfake 檢測挑戰賽」(Deepfake Detection Challenge,DFDC)。
  • Deepfake一鍵翻新「成人色情視頻」,遭各大平臺封殺
    近日,再次有外媒爆出在Reddit社區中,一個名為r / GeneratedPorn Subreddit正在散播大量色情淫穢作品,而製作這些色情作品的正是造假軟體—Deepfake。創建者認為在原有色情作品上,利用Deepfake生成不存在的人臉進行二次創作可以避免法律上的懲罰和道德上的譴責。但事實可能並非如此,目前Reddit、XHamster等多個網站已經將該軟體封殺,並強調,Reddit網站政策禁止非自願色情內容的分享和傳播,包括Deepfake作品。