歡迎訪問景略集智的官方網站(jizhi.im)。
剛剛收到消息：有位哥們用 AI 算法把飾演「神奇女俠」的 Gal Gadot 的臉蛋弄進了「不可描述的電影」裡，真是細思極恐！
Gal Gadot
日前網上開始瘋傳一段「神奇女俠」Gal Gadot 和她的同父異母哥哥一起做不可描述之事的視頻。但是實際上，視頻中的女子並不是 Gal Gadot 的真身，只不過臉蛋兒是她的。但是實在看起來太像了，搞得好像「神奇女俠」真的轉行去拍 AV 了一樣。
這段視頻是由機器學習算法製作的，使用了很容易獲取的視頻素材（還要我教你在哪找素材嗎！？），還有一些開原始碼，有了這些，任何掌握深度學習算法技術的人都可以將它們融合在一起，打造出這樣的視頻...
這門技術並不是只能惡搞兩個長得很像的人。雖然有時候臉部匹配並不是很準確，視頻效果還略帶詭異，但乍一看，可...可信度還是非常高的。「神奇女俠」這段視頻據稱是 Reddit 用戶「deepfakes」的大作，真是給你們這些技術宅跪了。
往常人們使用 CGI 技術也能在視頻中重建一個人。但「deepfakes」沒有使用這種方式，相反他使用了開源機器學習工具——TensorFlow，它是谷歌面向研究者、大學畢業生以及任何對機器學習感興趣的人推出的一個免費工具。（點擊閱讀原文可以看到TensorFlow相關教程）。
就像 Adobe 一款能隨意設置視頻中的人說話內容一樣，Face2Face 的算法能把一段錄製的視頻以實時臉部追蹤的方式把臉蛋兒「調包」。「神奇女俠」這種新型的 假AV 顯示人們已經能輕易製作出虛假但很容易讓人們相信的視頻，雖然視頻中人物所做的事情、所說的話，真正的人並沒有做過，哪怕是做不可描述之事。
我們很可能已經正式來到一個無法再說「我只相信自己的眼睛」的時代。
那麼...只有「神奇女俠」遭殃了嗎？不是，目前為止「deepfakes」已經用這項技術還製作了斯嘉麗·詹森、麥茜·威廉士 、泰勒·斯威夫特（不敢想像她粉絲的絕望）、奧布瑞·普拉扎、艾瑪·沃特森等人「傾情出演」的假AV，並發布在了 Reddit 上。目前這些明星的經紀公司尚未對這些視頻做出評論。
（出於安全考慮這裡就不上其他女星的圖了吧...）
將臉部替換，製造明星出演的虛假不可描述內容，多年來一直是不少人熱衷圍觀和YY的情節。早年間以「移花接木」板塊兒為甚。如今在「deepfakes」所發內容底下熱火朝天的評論，仍不難看出大洋彼岸的朋友們跨過了時間、跨過了空間，依然對這一主題津津樂道。
我想這是毅種循環吧。
Reddit上deepfakes發布的帖子
「這不是啥黑科技」
據這位不願透露真實ID的「deepfakes」先生說，製作這些視頻的軟體以多個開源程序庫為基礎，比如 Keras 和 TensorFlow 後端。為了編制這些明星的臉蛋，他用了谷歌的圖片搜索功能，一些照片素材庫和 YouTube 上的視頻。深度學習包含了由相互連接節點組成的神經網絡，能自動計算輸入的數據。在製作這些視頻時，「deepfakes」用不可描述的視頻素材和「神奇女俠」的臉蛋作為數據訓練了算法。等「訓練」完成後，神經網絡的節點會自動完成一些特殊的任務，比如不用任何額外步驟就能高質量地處理視頻文件。
人工智慧研究專家 Alex Champandard 說，一個正牌的消費級顯卡在只需幾個小時就能達到這種效果，CPU也行，只是時間慢些，需要幾天。
「這不是啥黑科技」Alex Champandard 如是說。（瘋狂暗示？？）
但有人輕鬆就能製作出這些視頻，還是有點細思極恐。拋開技術難度不說，他們需要的只是獲取足夠多的你的照片，還有大量我們自己製造出的臉部數據集：單單在 2015 年、2016 年兩年，全球網民向谷歌照片應用上傳了 240 億張自拍！因此不難想到，任何一個懂得這項技術的業餘人士都能用他們的算法隨心所欲的製作某人的虛假性愛視頻。
「deepfakes 」稱自己並不是個職業「人肉搜索專家」，只是個對機器學習感興趣的程式設計師。
提到他的這套算法時，他說：「我也只是發現了一個進行臉部交換的聰明的方法而已，有幾百張臉部照片後，我能輕易生成幾百萬張畸變照片訓練神經網絡。然後如果我向神經網絡輸入另外某個人的臉部照片，神經網絡會認為這只是另一張畸變照片，試著讓它看起來像是訓練中的臉部，很慚愧，就做了這麼一點微小的工作。」
「deepfakes」發布的這些視頻並不是全部很完美。比如在「神奇女俠」的這段視頻中，「她」的臉部偶爾會出現一個小方塊，可以隱約可見原始人物的臉部，而且嘴型和眼神與說話的節奏也不是很匹配。但是如果你不仔細看，而且腦子裡認定這就是「神奇女俠」...那不就夠了嗎，還要啥自行車。
「deepfakes」製作的其它幾段視頻比這個要好得多，更容易讓人相信。成人影片演員 Grace Evangeline 在推特上說，好多成人演員已經習慣了她們的影片未經她們允許就被人傳至很多網站，比如上傳了「神奇女俠」虛假視頻的這個網站 SendVid。但這次不同，她從沒見過這樣的事情。
Grace 說：「得到當事人同意一直以來都非常重要，不管是私人生活還是影片，都必須得到當事人的同意才行。擅自製作明星的虛假性愛視頻，並沒有得到當事人同意，這是很嚴重的錯誤。」
當「deepfakes」被問及他是否考慮過其中的道德問題時，比如在研發這種算法時有沒有考慮過會出現報復性性愛視頻、敲詐勒索等等這些後果，他說：「每種技術都會被某些人用來作惡，這點我們無法避免。」他隨後舉例說這種技術也可以用在好的方面，比如在《速度與激情7》中就是用了相同的技術，實現了已過世的保羅·沃克回歸影片。「不同之處在於人人都能這麼做的難度有多大。我不認為越來越多的普通人涉足機器學習研究是一件壞事。」
人工智慧專家 Alex Champandard 稱應用這種技術存在「很大」的道德風險。不過雖然惡意使用這種技術無法避免，但也可以防患於未然。
Alex 建議研究者們應開始研發識別虛假視頻的技術，幫助大眾識別出哪些是虛假的、哪些是真實的，而且應完善網際網路法律法規，以應對將來出現這種偽造視頻和利用它們進行騷擾勒索的行為。
他說：「我們需要全民參與討論，人人都應該知道製作虛假照片和視頻如今已經多麼容易，而且在未來相當長一段時間內，我們還很難分辨出其中的真假。當然，在以前這種視頻也是能做到的，但是需要花費大量的資源和視覺效應方面的專業人員才能實現。而如今，單憑一個程式設計師使用最新的計算機技術就做到了。」
換句話說...我們很有可能即將迎來一大波假AV？
官方微博：@景略集智
商務合作：chenyang@jizhi.im
投稿轉載：kexiyang@jizhi.im
掃描下方二維碼，現在就加入集智用戶群
和我們一起談笑風生！