黑科技DeepFake,上線五天就遭全球唾棄,這技術到底有多邪惡?

2020-12-23 騰訊網

雷布斯有一句名言:「站在風口上,豬都能飛起來」,大意是只要適應潮流,做出符合眾人需求的產品,那麼坐上火箭一般的發展就不遠了!但2017年橫空出世的一項技術遭遇卻徹底打破了這個規律,這就是全球追捧卻被瞬間打入冷宮的DeepFake技術!

DeepFake到底是什麼技術,為何會遭全球唾棄?

DeepFake到底是什麼技術?我們先不忙說明這是啥技術,來看看如下文字和動畫:

「女士們,先生們 我是Albert Einstein。 全體人類正在陷入一場戰爭, 而我們的敵人卻看不見摸不著。 請大家待在家裡,保持距離,勤洗手。 團結起來,我們一定能夠戰勝新冠病毒。 謝謝。」

這愛因斯坦如假包換,如果他說的不是新冠病毒的話,連種花家都要信了!對了,這就是DeepFake所展現的超級換臉技術,配合製作者高超的視頻特效手法,復活名人、以假亂真不過是雕蟲小技而已!

這項劃時代的技術最早源自2017年,一個匿名的用戶「DeepFakes」將《神奇女俠》中女主蓋爾·加朵的臉移植到了一部成人電影的女主身上,再輔以技術手段將其完美的融合,之後將其上傳到了Reddit的成人交流社區,一時間這部成人電影流量大增,觀眾大呼過癮!

但很明顯這不符合Reddit的成人交流社區的目標定位,因為這部電影會讓觀眾誤會就是蓋爾·加朵,這個後果是極其嚴重的,因此Reddit的成人交流社區官方迅速行動,以侵犯了他人隱私為由將其封禁!DeepFakes對於Reddit官方的封禁極度不滿,為報復Reddit官方封禁,直接在Github將Deepfake技術的AI代碼免費公開!

此後以Deepfake的AI代碼為基礎的APP就開始出現了,當然有了專業軟體工程師的加入和其外圍技術代碼的完善,這個換臉水準是越來越高!而且這項技術真的是剛需,因為在初期野蠻發展的這段時間裡,以Deepfake技術代碼的APP製作的視頻中,有96%都涉及色情,當然娛樂圈的公眾人物妥妥的成了首選對象!

DeepFake使用了什麼技術,怎麼那麼厲害?

紐約州立大學奧本尼分校教授數字媒體取證的專家 Siwei Lyu稱這個DeepFakes在Github上公開的技術非常優秀,代碼極其緊湊!

它依賴於一種稱為自動編碼器的神經網絡,將圖像縮小到較低維空間編碼器和一個從潛在表示中重建圖像的解碼器組成,Deepfake通過通用編碼器來利用此架構,該編碼器可將人的特徵編碼到這個空間中,而特徵包括面部特徵和身體姿勢的關鍵特性,並且還有專門針對目標特徵採樣建模的訓練模型,這意味著只要採樣足夠多的數據,那麼將會建立出更逼真的模擬對象!

Deepfake是怎麼換臉的?

一般Deepfake的換臉會有幾個過程,分別是人臉定位、轉換以及圖像拼接,這比較容易理解,那麼具體是個什麼過程呢?

人臉定位

我們日常中的人臉識別中就用到了這個技術,早期是平面的,一張照片即可被欺騙,現代人臉識別中還加入了立體識別,為了防止用矽膠面套偽造圖像,最新的還有紅外模式識別,也就是矽膠這種和體溫有明顯差異的面套就難以通過!

人臉識別

不過在Deepfake中不需要立體,也不需要紅外,它主要抽取人臉的表情特徵,側重點是有差異的,因為它要建立一個運動的臉部表情數據,比如用dlib和OpenCV等主流的工具包直接抽取!如果想要更逼真的人臉的話,還需要一個強大深度模型算法!

《鋼鐵俠》中的女演員艾米·亞當斯(左)被修改為具有尼古拉斯·凱奇特徵的視頻

人臉轉換

要講抽取的人臉應用到目標臉部,那麼除了保留基本特徵以外還要對採樣臉部和目標臉部完美結合,做到無縫連接才沒有違和感,要不然人類肉眼很快就是能辨認出採樣臉部和目標頭部結合處的不一致!

這中間就包含了將取得的人臉圖像採樣成短矢量,再將此短矢量恢復到目標人臉,這些矢量元素保留了人臉的主要特徵,比如眉毛濃淡、鼻子挺拔、臉部膚色以及眼睛大小比例等。並且在這個過程中需要達到使用目標的臉部表情,但卻用採用臉部表達,完美的直播換臉方式需要強大的算力,但如果是錄播則可以慢慢操刀一幀一幀修!

圖像拼接

人臉轉換做的是否完美直接關係到表情是否生硬,但圖像如果拼接不好,就像臉化妝了脖子卻沒有,兩者生硬過度或者角度上有些不一致,很明顯就能看出是偽造,因此拼接除了需要在兩者之間做好過渡外,還需要追蹤臉部或者身體動作,以便展示的人臉角度會目標動作一致!

(a)原始人物;(b,c) Deepfake 人物

DeepFake的衍生應用

這個技術出現時革命性的,比如當前流行的在線試穿就是最簡單的應用,還在電影拍攝和後期製作中產生了極大的幫助,甚至特型替身演員都會有失業的風險,當然未來的虛擬人都有這種技術的影子。

DeepFake的嚴重危害性

其實Deepfake早在上世紀九十年代開始就萌芽了,在電影和數字視頻中早已有應用,當然被公眾關注確實是2017年Reddit上的蓋爾·加朵事件!這讓全世界都目睹了它的潛在危害性,因為你根本就搞不清楚正在跟你對話的人到底是你本人還是別人,因為Deepfake連聲音都能模擬,請問你慌不慌?

華爾街日報2019年3月報導,犯罪分子利用Deepfake技術,冒充英國某能源公司母公司CEO的聲音,成功詐騙了22萬歐元!電話中這位CEO要求將資金髮給匈牙利的供應商,並聲稱是緊急事件,要求一小時內付款,結果就是信以為真了,損失的22萬歐元由保險公司 Euler Hermes(裕利安宜)集團承擔,這保險公司夠倒黴的!

穆罕默德·阿茲明·阿里

2019年6月13日,網上曝出馬來西亞經濟部長Azmin Ali與男性發生關係的視頻,隨後穆罕默德·阿茲明·阿里本人否認是這個視頻的主角,此事轟動了馬來西亞,後來被證實這不過是Deepfake技術偽造而已!

2019年1月11日,西雅圖電視臺播放了福克斯公司的分支機構KCPQ在其橢圓形辦公室演講中播出了川普的偽造視頻,圖像中川普頭比平時要大一些,膚色也是特別的橙紅色,演講時舌頭經常伸出,此後一名手機拍攝視頻並篡改視頻的僱員被解僱。

2020年4月,一個「滅絕叛亂」的組織在Facebook上發布了比利時總理索菲·維爾梅斯關於了森林砍伐與COVID-19之間可能聯繫的演講,24小時內超過十萬人觀看了此視頻!

比利時總理索菲·維爾梅斯(右)

邪惡黑科技DeepFake是一把雙刃劍,但現在看起來似乎是邪惡的那一面更多一些,它讓我們實在難以區分真假,甚至至親之間打個視頻電話都得有一些約定的聯繫方式,否則你都不知道對面的那個人到底是不是你的爸爸(兒子)!

相關焦點

  • 黑科技DeepFake,上線五天就遭全球唾棄,到底有多邪惡?
    黑科技DeepFake,上線五天就遭全球唾棄,到底有多邪惡?這個高能黑科技,為什麼遭到了全球的唾棄?就因為這個黑科技確實是太強大了,採用了最新的人工智慧技術,能夠讓普通人通過計算機就能顧剪接出來一些視頻,而且視頻中的人臉可以變成任何人的臉,就因為這個,在短短上線五天之後,這個黑科技便被全網唾棄,之後在全球範圍內遭到了封殺。
  • 邪惡黑科技DeepFake,上線5天便遭全球封殺,背後到底有多恐怖?
    古今中外,任何前沿技術在誕生之初,都會引發瘋狂熱捧。飛機、汽車、手機這些不用多說,就連鐳、X射線等有害物質,都曾因太受歡迎,而引發「鐳女孩」、癌症頻發的慘劇。不過,2017年,有一項高能黑科技打破了這個鐵律。這個名為Deepfake的技術,在上線短短5天後,便被全網唾棄,之後更是在全球範圍內遭到封殺。Deepfake是一種變臉技術。或許有人會想,現在變臉技術那麼多,諸如PS等很多軟體都能實現,為什麼偏偏只有Deepfake被封殺呢?
  • 黑科技DeepFake,上線五天就遭全球唾棄,這技術究竟有多邪惡?
    2017年12月網上出現了一個驚人的視頻,一位以神似蓋爾·加朵的女主出現在Reddit的成人交流社區上,一時間該網站差點被擠爆,而且在接下來的數天內,該視頻幾乎傳遍全球成人交友平臺,由此揭開了一些有史以來最邪惡的技術:DeepFake!DeepFake到底是幹嘛的,怎麼能做到易容術?
  • 黑科技DeepFake,上線五天就遭全球唾棄,究竟有多邪惡?
    ,該視頻幾乎傳遍全球成人交友平臺,由此揭開了一些有史以來最邪惡的技術:DeepFake!DeepFake到底是幹嘛的,怎麼能做到易容術?DeepFake是一種動態換臉技術,很多朋友肯定會認為換臉誰不會啊,PS技術分分鐘把臉給換了,而且可以做到天衣無縫,網上早就曝出各種各種明星的換臉PS照,搞到紛紛闢謠證明那並不是自己,而且還有PS照敲詐勒索,還聽的不夠多嗎?
  • Deepfake到底有多可怕?(圖文版)
    如果這時候有一種「障眼法」能讓老四的長相和聲音也和呼蘭一模一樣,那可能親媽都認不出來。Deepfake就是這樣一種障眼法。 如果有這麼一個工具又簡單又免費,你會用它模仿呼蘭嗎? 和網際網路很多新技術一樣,Deepfake剛出來的時候,最主要的應用就是搞黃色。
  • Kaggle Deepfake競賽|換臉圖像、AI換臉視頻、高仿語音版Deepfake,這項開掛的技術未來還能走多遠?(3/3)
    這是該公司為打擊假視頻而做出的一系列調整中的第一步。在App管制上,去年的DeepNude應用軟體則是一個很好的例子。該軟體的功能非常簡單:上傳一張女性的照片,軟體就可藉助神經網絡自動「脫掉」女性身上的衣服,從而展現其裸體。該軟體於去年8月份上線,一經面世就火爆全球。
  • 為什麼我們對deepfake技術又愛又恨?| 有機社會·Post
    我們嘗試通過【有機社會·Post】這一工具,梳理當下AI與社會的動向和議題,迎接思考者與關心者,為後續討論與行動打下基礎。【有機社會·Post】雙周更新,常設以下三個欄目:特寫、動態和精選。Topic:為什麼我們對deepfake技術又愛又恨?Deefake到底是什麼?
  • 黑科技DeepFake,到底多邪惡?
    看上去挺符合主流觀點,但這風格絕不符合某人的性格,而專業論壇4chan的技術大佬則直接指出,這段視頻就是偽造,使用的是AI合成技術!簡單地說就是使用了換臉技術,幾乎就做到了無縫切合,目測絕對看不出這到底是真是假,但技術大拿們拿出了之前講話的視頻,通過單幀分析,認為該視頻為造假!這個專業貼一出,各路人馬紛紛吃瓜,但問題是這AI換臉到底是什麼技術,怎麼會那麼NB?
  • 與假視頻死磕到底!谷歌 AI 開源 Deepfake 檢測數據集,3000+ 真人...
    type=preview&sign=g3d2q7B6dqqAdnGqs6V5YoCdn5aEh33agquWoQ)該數據集一共包含了來自 28 個不同場景下,由真人演員現場拍攝的 3000 多段視頻。谷歌希望能夠通過這些視頻數據,更好的維護整個社會的網絡安全環境,並使得開發者能夠利用這些數據,開發新的 Deepfake 檢測工具,更高效地識別 Deepfake 假視頻。
  • 你不知道的換臉黑科技!
    網傳被封殺的換臉黑科技deepfakes重現江湖!網友直呼:太可怕!圖 via 網絡Deepfakes到底是什麼一種可怕的技術?跟著Global Times的記者來感受一下!外國AI換臉黑科技deepfakes在中國火了。起因嘛,自然是這兩天上了熱搜的視頻#將朱茵的黃蓉換成楊冪的臉#,引得網友又驚又怕,紛紛喊話有關部門能補充完善相關法律法規,阻止更多的換臉視頻擴散。
  • Deepfake究竟是造福人類還是一個詛咒呢?
    不過,在國外,網友們多是利用deepfake技術來惡搞政壇人物,而非大牌明星。程式設計師可以換臉歐巴馬,用歐巴馬的口吻談論國事。在初期,少數了解deepfake技術的精英們,為了傳播deepfake技術,創辦了這個論壇,不僅滿足了自己的成就感,也贏得了網友們的尊重。不過,久而久之,網友們在討論學習的過程中,也發現deepfake技術的黑暗面——可以滿足自己的私慾、性幻想,網友們將自己「夢中情人」的面龐,放到了各色視頻中。
  • Deepfake這一年:月均被搜10萬次,小電影產業大豐收,寡姐欲哭無淚
    新年伊始,來自荷蘭的DeepTrace實驗室,發布了一份DeepFake發展報告,全方位觀察了這門技術旺盛的生命力。比如,2018年「deepfake」關鍵詞的谷歌搜索次數,比2017年增長了1000倍。
  • 向Deepfake 宣戰!
    Deepfake,這一 AI 領域的「大毒瘤」,正在引起越來越多來自行業的反擊。當地時間 2020 年 1 月 6 日,Facebook 全球政策管理副總裁 Monika Bickert 在博客中表示,Facebook 將刪除滿足其標準的 Deepfake 視頻。
  • 《連線》:AI生成的文字將是最可怕的Deepfake內容
    雖然這項技術仍在興起,但其被濫用的可能性是如此驚人,以至於科技公司和學術實驗室優先研究並資助檢測方法。社交平臺為含有 「合成和操縱媒體」的帖子制定了特殊政策,希望在保護自由表達和阻止大肆傳播的謊言之間取得適當平衡。但現在,距離11月3日還有3個月左右的時間,一波deepfake內容似乎從未斷過。
  • 用Deepfake拍紀錄片、做表情包,盤點2020年Deepfake大事記
    科爾披露了這一行為,那正是 Deepfake 科技蓄力之時。一年後,Deepfake 色情片不僅僅在 Reddit 上傳播,而且,許多軟體可以「剝掉」任何被拍到的女性所穿衣服,獲取此類軟體也輕而易舉。自此之後,Deepfake 名聲就不好,但這也正常。這類技術依然多用於製造假色情片,一位女性調查記者遭到嚴重騷擾,被迫暫時噤聲。最近,一位女性詩人兼小說家受到驚嚇和侮辱。另外,若將 Deepfake 用於政治目的,可能會產生令人信服的假新聞,破壞本就不穩定的政治環境。不過,操縱和合成媒體的算法越發強大,帶來的一些應用頗有潛力,當然,也有些用法搞笑、有些則平平無奇。
  • ...的第一個大規模應用:色情機器人|機器人|deepnude|deepfake|...
    根據英國Wired雜誌報導,自今年7月份以來,至少有10.4萬名婦女受到即時通訊應用Telegram上運行的深度偽造機器人DeepNude的攻擊,受害人數之多令人震驚。每個月都有成千上萬的人使用DeepNude來創建朋友和家人的裸照,其中一些人不到18歲。據報導,DeepNude能用AI技術「去除」衣服,雖然有些合成照片看上去有瑕疵,但是有些照片可以以假亂真。
  • Deepfake一鍵翻新「成人色情視頻」,遭各大平臺封殺
    近日,再次有外媒爆出在Reddit社區中,一個名為r / GeneratedPorn Subreddit正在散播大量色情淫穢作品,而製作這些色情作品的正是造假軟體—Deepfake。但事實可能並非如此,目前Reddit、XHamster等多個網站已經將該軟體封殺,並強調,Reddit網站政策禁止非自願色情內容的分享和傳播,包括Deepfake作品。基於「成人視頻」的Deepfake!Deepfake的深度造假能力到底有多強?
  • Deepfake AI換臉,一場「貓和老鼠」的追擊戰
    數月前開始,關於「AI換臉「的話題時不時地登上熱搜,網友們一邊對這一科技大法respect,一邊調侃XX明星的演技。按理說,科技為大眾帶來娛樂的祥和氛圍挺好的,不過,是時候換個角度來看看這種技術帶來的一些偏門應用。
  • 「大變活人」成本低 換臉技術已引發多起刑事案件
    原標題:AI換臉越來越溜兒 以技制技打假"李鬼"還不夠Deepfake是一種換臉技術,可以將圖片或視頻中A的臉換到B的頭上。其名字由深度機器學習(deep machine learning)和假照片(fake photo)組合而成。這項技術不需要操作者具備深厚的專業知識,只要收集到足夠素材,AI就可以完成。
  • Deepfake正在盜用社交網絡"自拍照"生成果體!
    該軟體吸引了全球103,585名用戶,其中用戶最多的頻道有45,615人。這些用戶大部分聚集在俄羅斯及東歐周邊地區。據了解,這款軟體爆火的原因有三點。創建者:我不是偷窺狂,只是出於獵奇心然而,就是這樣一款色情造假軟體,它的創建初心竟然是出於好奇心和對技術的熱忱。2019年6月27日,DeepNude軟體首次公開上線,隨後不久,系統就因為用戶訪問量過大而宕機。