你可能並不知道什麼是GAN（生成式對抗網絡），但你可能在社交網絡上轉發過明星變老的圖片，或者曾看到換臉技術在淘寶售賣的報導，只需幾元錢，就能將別人變成色情片主角。實際上，一波人工智慧換臉應用的熱潮已經出現，我們稍不注意就可能掉入陷阱之中。
本期RUC新聞坊為你梳理這些以假亂真的換臉技術的產生和發展，並搜集國外媒體觀點總結這些顛倒身份、穿越時間的圖像和視頻可能給我們的生活帶來什麼影響。
FaceApp
上周有一款名為FaceApp的 AI換臉APP火遍整個社交媒體，世界各地的明星等公眾人物爭相在社交平臺分享自己的「老年」照片。這款APP由俄羅斯公司Wireless Lab開發，用戶僅需要上傳一張照片，即可實現一鍵變成老人，一鍵返老還童，一鍵由男變女，一鍵破涕為笑，一鍵失去頭髮。
(FaceApp官網的App功能介紹，包括改變表情、變年輕、變老等)
據福布斯報導，這款APP誕生於2017年，因最近算法大幅提高而爆火。目前在Google Play的下載量已經超過了1億，近10天內下載安裝次數達450萬。此外，它在蘋果App Store裡的安裝下載量也居高不下，App Annie數據顯示，它目前在121個國家的iOS商店排名第一。
（Twitter網友用FaceApp為川普「換臉」）
這款APP的基本原理是生成式對抗網絡（GAN），通過算法提取人物臉部的特徵，並根據資料庫中的其它圖像對照片中非重要特徵點進行調整。
FaceApp的火爆掀起了人們對於人工智慧技術及隱私保護等問題的熱議。由於該應用由俄羅斯人開發，美國政壇高度緊張，民主黨的全國委員會發出預警，警告2020年民主黨總統競選團隊不要使用該換臉應用，還有政客建議FBI介入調查。
Deepfake
Deepfake是一項人工智慧換臉技術，適用於修改圖片和影像，可以實現人臉的移花接木。今年年初在網絡上廣泛傳播的朱茵變楊冪的換臉視頻就是通過這種技術生成的。當中國網民還沉迷於利用Deepfake技術製作鬼畜視頻的時候， Deepfake已經作為一種負面議題在國外掀起了滔天巨浪。
2017年，一名叫「Deepfake」的用戶在美國Reddit論壇上傳了多段「嫁接」好萊塢女明星臉的色情視頻，引發網民熱烈討論。之後，開源的代碼便如同火種一般，讓曾經只有專業電影製作機構才能完成的視頻換臉變得輕而易舉。用戶只需要收集目標對象的大量照片就可以使用這些開源的算法製作出假視頻。
很快，Deepfake的波及範圍就從影視娛樂圈蔓延到美國政壇。去年一段美國前總統歐巴馬吐槽川普是笨蛋的假視頻在Twitter走紅。今年5月，美國眾議院議長南希·佩洛西的假視頻也在社交媒體上廣泛流傳。視頻中，佩洛西如同喝醉了一般，神志不清，說話磕磕巴巴，舉止奇怪。這段視頻甚至引來了美國總統川普的嘲諷。
因為Facebook拒絕刪除佩洛西的假視頻，馬克扎克伯格也被人惡搞，「他」在其中大談如何「控制數十億人洩漏的數據」，而原始素材來自扎克伯格兩年前一則毫不相關的視頻。
Deepfake的迅速發展嚴重影響了人們的信息環境，一場「貓和老鼠」的技術追擊戰就此展開，比如早期研究人員通過人物是否眨眼睛來判斷視頻是否由Deepfake生成，但現在的Deepfake中人物都能眨眼。
有意思的是，這個生成與識別的過程和Deepfake的原理——上文提到的生成式對抗網絡（GAN）也很相似。GAN由一個生成網絡與一個判別網絡組成。生成網絡則要儘可能地欺騙判別網絡，判別網絡的目的是將生成網絡的輸出從真實樣本中儘可能分辨出來，兩個網絡相互對抗、不斷調整參數，直到判別網絡無法判斷生成網絡的輸出結果是否真實。
外媒關注焦點
AI換臉應用在國內引起的討論還較少，但技術的傳播是沒有國界的。為了更深入探討換臉技術可能給生活帶來的影響，我們參考了Deepfake出現更早、案例更多的國外，看看國外媒體是怎麼看待換臉產生的問題的。
1、換臉技術威脅政治和商業
不少媒體關注換臉技術可能會損害美國政治環境，給民主造成威脅。據CBS報導，美國在1月發布的一份全球威脅評估報告中警告稱，Deepfake可能會成為擾亂2020選舉的策略之一。「山寨」歐巴馬罵川普是「徹頭徹尾的混蛋」足以影響本已混亂的政治討論，更不用說一段「山寨」美國總統對某國宣戰的視頻會引起怎樣的巨變。
（歐巴馬的Deepfake視頻截圖）
美國眾議院民主黨成員Yvette Clarke認為，Deepfake的影響並不僅限於選舉，它甚至可以改變經濟和法律體系的結構：法院需要重新審視很多圖像或視頻證據的效力；而扎克伯格的Deepfake視頻如果被惡意炒作，可能會給企業造成巨大經濟損失。Fast Company網站也指出，「蒂姆庫克」與某人就iPhone銷量下滑進行私人談話的假視頻，能在幾秒鐘內讓股市蒸發數十億美元。
《衛報》這樣形容Deepfake造成的影響：在很多網際網路視頻中，人們正做著他們從未做過的事情，真實的人，真實的臉，接近真實的畫面，但這是完全不真實的事件。
《衛報》還在報導中引用了AI倫理和法律方面的教授Sandra Wachter的觀點，她認為很多對科技的恐懼都是誇大其詞，但Deepfake不一樣，「並不是說假視頻或假信息從未有過，而是假信息的複雜程度、生產難度和速度、以及傳播的範圍都達到了新的水平。」
《麻省理工科技評論》也指出，早在AI出現之前，操縱媒體的現象就已經出現了，但算法讓這些操縱更加普遍且更難被發現。
除了Deepfake換臉技術外，媒體也對FaceApp存在的隱私風險給予關注。據《紐約時報》報導，在7月17日的一封信中，紐約州民主黨參議員Chuck Schumer要求聯邦調查局和聯邦貿易委員會對FaceApp進行調查，理由是安全、數據保存和透明度方面的「嚴重問題」。他在信中指出，「如果美國公民的敏感個人信息被提供給一個頻頻對美國發起網絡攻擊的敵對外國勢力，那將是非常不安的。」
2、換臉技術對女性的傷害
《華盛頓郵報》注意到，涉及男性的Deepfake視頻幾乎都是搞笑風格，而涉及女性的主要是色情視頻，這暴露出對女性的性物體化在人工智慧技術下變得更加嚴重。
更關鍵的是，Deepfake剛出現時主要針對女明星，但隨著技術的進步和普及，普通女性也成為了目標。只需收集一個人大量的面部信息和一段性愛視頻，就能「移花接木」，達到滿足自己或報復女性的目的。
去年4月，印度一名女性調查記者Rana Ayyub收到報導對象的威脅——一段用她的臉偽造的性愛視頻。這段視頻在社交網絡上快速傳播，這名記者看到後崩潰了。她表示，自己多年來一直遭受著各種騷擾，但Deepfake比身體威脅更可怕，對內心造成長期影響，「並且沒有什麼能阻止它再次發生」。
《赫芬頓郵報》採訪了六名Deepfake的女性受害者，她們的照片未經同意就被置入色情視頻，其中一位表示，「用Photoshop處理過照片是靜態的，而且很容易被識別出是假的。但當視頻中是你自己的臉做出反應並移動時，你會感到恐慌，因為你無法控制別人如何使用你的形象。」
VICE網站也發現，新推出的DeepNnude是專門針對女性研發的，即使是輸入一個男人的照片，該軟體也只生成女性裸體的圖像，因為應用只對女性的裸照進行了算法訓練。
3、如何減少技術的負面影響
The Verge網站在採訪技術專家後指出，儘管部分識別Deepfake的研究通過追蹤名人獨特的面部動作，比如撅嘴唇、揚眉毛等，大幅提高了準確度，但人工智慧的精進為兩方都提供了便利。也就是說，每一項檢測Deepfake的研究都為提高Deepfake模仿質量提供新的機會，生產和識別將成為一場無休止的對抗。另一方面，儘管最新的模型準確度高達97%，即使完美部署在各大平臺上依然會存在3%的漏網假視頻，考慮到網際網路視頻的龐大體量，這部分可能造成的危害仍然是個大問題。
當技術靠不住時，如何減少假視頻傳播帶來的負面影響成為重中之重。為此，《紐約時報》提出「我們不能再相信目之所見」的觀點。評論認為，人們通常認為視頻內容就等於能感知到的事實，但隨著Deepfake技術的出現，製作假視頻的能力將和說謊的能力一樣普遍，我們應該將各種視頻資料看作是「證詞」而非「感知」，只有在信源可信時，才能相信這些音視頻材料的真實性。因此記者要養成追查網絡內容創作者身份的習慣，才能在各種Deepfakes全部到來之前確保我們已經完全準備好了。
人權組織Witness的項目經理Sam Gregory在《麻省理工科技評論》中建議，為Deepfake提供工具的公司和研究人員也必須投資到對策研究之中，同時社交媒體和搜索公司應該將這些對策整合到平臺中。
Deepfake法案的顧問Mutale Nkonde還督促監管者出臺相應措施，「除非政府找到方法保護消費者的權利，像Deepnude這樣的的應用會越來越泛濫。」
隨著大量類似應用的產生，政府出臺了相關法律進行規制。據《紐約時報》報導，截止2019年初，美國41個州已經禁止了生產和傳播報復性色情信息，限制應用程式的濫用。The Verge網站發現，美國維吉尼亞州已經正式擴大了對未經授權的色情作品的禁令，包括由Deepfake生成的假視頻和假照片，最高可被判處12個月監禁和2500美元的罰款。德克薩斯州已經通過了相關法案禁止Deepfake在政治選舉上的濫用。紐約州立法者禁止公眾未經他人同意創建「數字複製品」。