Kaggle Deepfake競賽|換臉圖像、AI換臉視頻、高仿語音版Deepfake,這項開掛的技術未來還能走多遠?(3/3)
2021-02-10 AI算法案例之家一、各界對Deepfake的評價
目前對深度假貨的報導大多與富蘭克林·福爾（Franklin Foer）在2018年初對這一現象的評價一模一樣：「我們很快就會生活在一個經常被我們的雙眼欺騙的世界裡……我們離現實的崩塌並不遙遠。」
廣受「非自願色情換臉」影響的國際好萊塢女星斯嘉麗·詹森在接受《華盛頓郵報》採訪時曾公開表示自己對Deepfakes的憤怒和沮喪，她講到：「從法律上講，這幾乎起不到任何作用。因為網際網路是一個巨大的黑洞，它最終會吞噬掉每一個人。即便在某個國家/地區擁有肖像權，但在之外的其他地方（比如德國），卻並不一定適用。對於可以行使法律權利的地方，你可以要求某個網站停止侵權行為。但遺憾的是，我們經常維權無果。」
美國中央情報局局長吉娜·哈斯佩爾（Gina Haspel）； 美國國家安全局長兼美國網絡司令部司令保羅·中曾根（Paul Nakasone）； 美國聯邦調查局局長克里斯多福·雷（Christopher Wray）； 曾任美國國家情報總監的丹·科茨（Dan Coats）在今年向國會提交的年度全球威脅評估中著重介紹了Deepfakes。
除此之外，一些網絡平臺也對Deepfake採取了反制的措施。推特在去年年底，發布了首個反Deepfake的策略草案。推特表示如果Deepfake內容威脅到某人的人身安全或可能造成嚴重傷害，他們會將該內容從推特上刪除。目前，推特已開始就此項草案向公眾徵集意見。Facebook則表示將禁止發布由人工智慧深度操縱的視頻。這是該公司為打擊假視頻而做出的一系列調整中的第一步。
在App管制上，去年的DeepNude應用軟體則是一個很好的例子。該軟體的功能非常簡單：上傳一張女性的照片，軟體就可藉助神經網絡自動「脫掉」女性身上的衣服，從而展現其裸體。該軟體於去年8月份上線，一經面世就火爆全球。然而該應用卻引來了各界的聲討，就連人工智慧和機器學習領域國際上最權威的學者之一的吳恩達都對此發表了聲討。
就這樣，DeepNude在上線後僅僅幾小時後，就宣布下架了。DeepNude創建團隊在推特上表示，他們「大大低估了人們對該項目的興趣」，這款APP被濫用的可能性太大了，因此他們宣布了不再出售，之後也不會推出新版本。
而DeepNude的火爆程度同樣引起了小編的深思：如此受譴責的技術竟能引起這麼多用戶的下載使用，DeepNude火爆全球的背後，究竟普通民眾對這項技術的態度又是怎樣的呢？
調查發現，普通民眾的態度令人大吃一驚：與這些官方或者公眾平臺的態度相反的是，許多人對於deepfake技術有一種盲目樂觀的觀點，即技術進步必然是好的。
在網上，各種各樣的被標記為人工智慧生成的媒體實際上並不是由人工智慧技術製作的，而是與YouTube或Reddit上的視頻屬於同一類，都只是簡單視頻編輯後的產物。這就導致了許多人並不能意識到deepfake深度學習假視頻的潛在危害。這證明了，目前我們應該將這種技術的用途和使用方法劃分清晰，如哪些是用於技術實驗研究，幫助媒體世界的技術發展，而又有哪些則是基於圖像的虐待，是抱有惡性目的的（非自願色情換臉、政治攻擊等）。如果我們能劃分清楚這項技術的用途。就可以有針對性的努力降低風險，減輕危害。
二、Deepfake的現狀與未來目前，廣泛使用的AV操縱方法包括偽造人物談話表演的假視頻、面部換臉、或語音合成。一些假視頻甚至包含所有以上技術，而其他視頻可能只使用了以上技術中的一種。雖然目前許多業餘愛好者也在參與假視頻的製作，但實際上要想做到真假難辨的視頻所使用到的技術壁壘仍然很高。
我們對網絡上假視頻的視頻製作者的背景採訪中發現了這些deepfake視頻製作者的代表性人群分兩種。第一種人是專業的特效師，他們使用複雜而昂貴的設備為好萊塢電影和其他預算超高的媒體作品製作素材。
[電影《雙子殺手》海報]例如為了幫助電影創造出更加震撼人心的虛擬表演，特效師們不僅僅是將兩段不同拍攝來源的錄像結合在了一起，還製作出了全新的面部、聲音和身體的表現。其中令小編印象深刻的就是去年李安導演的《雙子殺手》。電影中年輕的威爾·史密斯是完全虛構的角色，達成這個視覺奇觀的是維塔數碼，他們對威爾·史密斯進行動態捕捉，結合電腦動畫，一點一點讓他「變年輕」。在打造這樣的虛構人物時，就借用了數據處理和人工智慧技術。除此之外，已故女演員卡麗·費舍爾 通過人工智慧技術參演了最新的《星球大戰：原力覺醒》。《銀河護衛隊2》中出現過庫爾特·拉塞爾（Kurt Russell）在1980年代時的形象；2000年《角鬥士》拍攝期間，主演奧利弗·裡德（Oliver Reed）不幸心臟病發過世，影片製作團隊只能請來另外一位替身演員進行表演，後期再將裡德的面部形象以CG形式「移植」到替身演員身上...這種「Deepfakes」的技術能夠幫助電影創造出更真實的數字人物。
除此之外第二種視頻製作者則是視頻愛好者和技術愛好者的集合，他們在網上複製這些複雜的人工智慧技術，然後做成免費的或消費級軟體工具。這類群體的一個典型輸出製作就是有關色情內容的假視頻。
由此可見，技術的好壞，並不是由技術本身決定的，而是取決於技術的使用者。同樣的技術放在這兩種人群手裡，所製作出的視頻卻有著截然不同的用途。
三、總結儘管視頻一直容易被偽造操控，但當deepfake出現時，這種以假亂真的逼真效果還是已經引起了大眾的恐慌。
但重要的是，不要諱疾忌醫。相反，我們應該密切關注Deepfakes，深入了解這些技術在具體操作時是如何執行的，通過對這項技術的深入研究我們可以掌握它技術的特點和弱點，來幫助我們甄別和打擊deepfake假視頻。
總體來說，Deepfake根據不同人群的使用目的，所達到的影響是不一樣的。我們無法從根源上說一項技術是「邪惡」的，Deepfake誕生之初，也是AI領域的一大進步。可悲的是不少媒體看到了這項技術的不道德使用方法。而大眾第一次看到他，便是以這種糟糕的形象認識這項技術。因此大眾感到恐慌，產生了消極的，抵制的想法。然而我們真正要做的應該是引導糾正如何運用該技術到正確的積極使用用途，甄別不同人群的使用目的然後合理規範它。我們要積極採取行動來深入研究了解它，只有充分了解了這項技術才能升級檢測假視頻的技術方法。因此，呼籲人們一起採取行動，才是我們應該做的。
近期的kaggle deepfake百萬美金大賽就是個很好的例子，號召大家一起研究假視頻，提高偵測假視頻的技術。詳情請點擊下方往期文章了解大賽更多信息。
關注公眾號：數競之家
學習更多kaggle+天池競賽方案，競賽算法
關注公眾號：北美科研之家
了解最新國內外留學科研信息
相關焦點
-
Deepfake AI換臉,一場「貓和老鼠」的追擊戰
網上熱傳的換臉神器，是一種利用更深度學習技術識別和交換圖片、視頻中人物臉部圖像的工具，被稱為深度偽造，也就是Deepfake，它不僅製作過程簡單而且逼真度驚人。普通大眾接觸到的Deepfake已經是通過它製作出來的成品，比如徐錦江版的海王、復活的張國榮，被楊冪版黃蓉。 -
FB壕擲千萬辦換臉視頻檢測挑戰賽,網友:這是幫Deepfake訓練鑑別器嗎?
整個DFDC比賽將會在年底開始，明年3月份截止提交，需要參賽者提交代碼進行黑盒驗證集測試。結束後也會有比賽結果排行榜，並提供一定的獎勵。Facebook作為主辦方自己也會參賽，不過他們表示自己不會拿獎金。現成的參賽選手不過，雖然針對Deepfake的檢測比賽是頭一次出現，但檢測Deepfake視頻的AI可是早就有了。 -
人怕出名豬怕壯,出名之後怕Deepfake
圖源：chameleonassociates2017年~2020年期間，大量湧現的deepfake作品集中反映了該技術的陰暗面，用在名人偽造是這項技術濫用的重災區。充斥著社交媒體的換臉視頻已經強烈動搖了人類長久以來對自己的視覺和聽覺的信任。當消費的媒體內容真假難辨的時候，很容易出現被這種這些內容所欺騙的受害者。 -
偽造CEO語音,騙走168萬!音頻版Deepfake詐騙案正在興起,專家:需警惕
從圖像、視頻到語音，DeepFake正在建構一個虛假的世界。我們看到，在馬斯克的這段演講視頻中，Deepfake的換臉技術幾乎達到了人眼無法區別的地步。不過，隨著技術的不斷成熟，Deepfake卻帶來隱藏的「虛假」風險。 -
為什麼我們對deepfake技術又愛又恨?| 有機社會·Post
Topic：為什麼我們對deepfake技術又愛又恨？Deefake到底是什麼？即便你對這個近來AI界頻頻出現的熱詞不夠了解，對「AI換臉」也一定不陌生。從國外的惡搞歐巴馬、蓋爾加朵，到國內的朱茵換臉楊冪、以及ZAO App的曇花一現。 -
秒殺Deepfake!微軟北大提出AI換臉工具和假臉檢測工具
最先進的AI和機器學習算法不僅可以生成栩栩如生的位置和物體的圖像，還擅長將人臉頭像從一個人換成另一個人的。另一方面，研究人員也在不斷開發能夠檢測deepfake假圖像的識別工具。這場在機器學習圖像識別領域的「矛與盾」之爭愈演愈烈。 -
用deepfake拍電影可以安排了:迪士尼發布首個百萬像素高解析度換臉算法
為特效而生的高解析度deepfake在此之前，deepfake技術的改進重點主要在平滑換臉效果，而不是提高解析度。但320×320這樣的解析度下，手機上看換臉效果可能行雲流水看不出破綻，換到大屏幕上，缺陷就會很明顯。 -
Deepfake究竟是造福人類還是一個詛咒呢?
在初期，少數了解deepfake技術的精英們，為了傳播deepfake技術，創辦了這個論壇，不僅滿足了自己的成就感，也贏得了網友們的尊重。不過，久而久之，網友們在討論學習的過程中，也發現deepfake技術的黑暗面——可以滿足自己的私慾、性幻想，網友們將自己「夢中情人」的面龐，放到了各色視頻中。 -
Deepfake誕生三周年,人類已無法阻止AI換臉
原來，這是小玉為了向民眾呼籲假新聞的風險，而利用Deepfake技術所製造出來的假影片。該影片很快就上了熱門影片排行，掀起網友熱議。 Deepfake是一種透過人工智慧（AI）中的deep learning（深度學習）技術所創造出的fake（偽造）信息。Deepfake技術可以用於影像及聲音，只需要仿造對象的人物影音素材，就能製造出唯妙唯肖的假影片。 -
《連線》:AI生成的文字將是最可怕的Deepfake內容
據《連線》(Wired)雜誌報導， 當評論家和研究人員試圖猜測什麼樣的操縱活動可能會威脅到2018年和2020年的選舉時，誤導性的人工智慧生成的視頻往往名列榜首。 雖然這項技術仍在興起，但其被濫用的可能性是如此驚人，以至於科技公司和學術實驗室優先研究並資助檢測方法。 -
朱茵變楊冪——FakeApp 破解版 換臉簡易教程,附圖文安裝和視頻地址
【社群流量】朱茵變楊冪，流量一個億——FakeApp 破解版 換臉簡易教程，附圖文安裝和視頻地址換臉後人臉的輪廓、表情都一樣，簡直看不出是人造的。image.png那麼，AI換臉背後是怎麼回事呢？不止朱茵變楊冪從換臉程序deepfake傳入國內開始，就有不少網友製作過換臉視頻。 -
多模、AI 齊上陣,Deepfake 換臉術剋星駕到!
去年 AI 換臉技術開始在 Reddit 社區流行，一位名叫 Deepfakes 的「大神」發出不雅視頻，影片女主角竟然是知名影星，由於內容低俗短時間吸引就使得 Deepfakes 聚集大量人氣，很快 Reddit 封殺Deepfakes 的視頻，同時 GitHub 對 Deepfakes 及其衍生項目進行封殺。 -
「假靳東」事件背後的Deepfakes,究竟是何方妖術?
一般來說，Deepfake技術生成的偽造圖像和音視頻可以模仿目標的面部表情、動作和語音的音調、色調、重音和節奏，例如，對外國電影進行逼真的視頻配音，在購物時虛擬地穿上衣服，對演員進行換臉等等。這些偽造的方式使得偽造的圖像和音視頻與真實的圖像和音視頻之間很難區分和檢測。 -
換臉蔡徐坤的AI技術,會成為色情報復的利器
在初期，少數了解deepfake技術的精英們，為了傳播deepfake技術，創辦了這個論壇，不僅滿足了自己的成就感，也贏得了網友們的尊重。不過，久而久之，網友們在討論學習的過程中，也發現deepfake技術的黑暗面——可以滿足自己的私慾、性幻想，網友們將自己「夢中情人」的面龐，放到了各色視頻中。 -
一文了解Deepfake 2020發展現狀
那麼，快速增長的Deepfake有哪些特點，背後有哪些應對措施？近些年，計算機視覺技術得到飛速發展。尤其是2014年生成式對抗網絡GAN的提出，讓圖像和視頻合成不斷取得驚人的效果。2017年，這項技術被不良分子用來偽造了一段色情視頻，由此該技術被人們稱為「Deepfake」，後來Deepfake的負面應用不斷發酵，並逐漸覆蓋到更廣泛的圖像、視頻，乃至音頻領域。 -
AI換臉是色情報復的新武器
在初期，少數了解 deepfake 技術的精英們，為了傳播 deepfake 技術，創辦了這個論壇，不僅滿足了自己的成就感，也贏得了網友們的尊重。不過，久而久之，網友們在討論學習的過程中，也發現 deepfake 技術的黑暗面——可以滿足自己的私慾、性幻想，網友們將自己「夢中情人」的面龐，放到了各色視頻中。色情女星換臉蓋爾·加朵 -
不止楊冪朱茵,國外名人也中招AI 換臉!背後的技術太可怕......
更可怕的事已經在國外發生了製作換臉視頻的技術叫 Deepfake，這一AI 技術在國外已經出現兩年多，但在2017年底才意外走紅。後來，另一名用戶開發了一個名為FakeApp的應用軟體，讓普通人也可以體驗這項「換臉」技術。這項技術並不複雜。 -
換臉一時爽?推特發布首個反Deepfake策略草案_科技_澎湃新聞-The...
還記得火遍全網的換臉 APP「ZAO」嗎？這款應用一經上線就引爆了社交網絡，將換臉的門檻拉到新低，只要下載一個 APP 就能輕鬆玩轉換臉。換臉一時爽，但一旦被濫用，可就不能一直爽了。10 月份的一份調查報告顯示，目前的 Deepfake 視頻 96% 仍為色情內容，會對廣大女性造成極大的困擾。 -
換臉視頻毫無PS痕跡,AI黑科技再度引爭議
一位叫做「換臉哥」的網友在嗶哩嗶哩網站上傳了楊冪「飾演」黃蓉的視頻，該網友用人工智慧技術把香港無線電視臺94版《射鵰英雄傳》中朱茵的臉換成了楊冪的臉。這則換臉視頻所使用的技術叫做「deepfake」（人工智慧深度換臉）。 -
與假視頻死磕到底!谷歌 AI 開源 Deepfake 檢測數據集,3000+ 真人...
Deepfake 視頻檢測數據集背景近幾年來，深度學習的發展催生了曾經被認為不可能實現的技術。現代生成模型就是其中的一個例子，它能夠合成超現實主義的圖像、語音、音樂甚至視頻。這些模型已經被廣泛應用於各種各樣的應用中，包括：通過文本到語音的方式使世界各國的人變得更容易溝通，或者是用以生成醫學成像的訓練數據等。與任何變革性技術一樣，這些技術也帶來了新的挑戰。