2018 年,Motherboard 記者山姆·科爾發現,網際網路上出現令人不安的新事物。一位名為「Deepfake」的 Reddit 用戶使用人工智慧算法,將色情片主角的臉換成名人的臉,在當事人不知情、未同意的情況下,上傳這些虛假色情片。
科爾披露了這一行為,那正是 Deepfake 科技蓄力之時。一年後,Deepfake 色情片不僅僅在 Reddit 上傳播,而且,許多軟體可以「剝掉」任何被拍到的女性所穿衣服,獲取此類軟體也輕而易舉。
自此之後,Deepfake 名聲就不好,但這也正常。這類技術依然多用於製造假色情片,一位女性調查記者遭到嚴重騷擾,被迫暫時噤聲。最近,一位女性詩人兼小說家受到驚嚇和侮辱。另外,若將 Deepfake 用於政治目的,可能會產生令人信服的假新聞,破壞本就不穩定的政治環境。
不過,操縱和合成媒體的算法越發強大,帶來的一些應用頗有潛力,當然,也有些用法搞笑、有些則平平無奇。下面,我們按時間順序總結了一些最受歡迎的應用,並解釋了為何這些應用代表未來趨勢。
易容揭秘者
6 月,《歡迎來到車臣》成為第一部使用 Deepfake 來保護主角真實身份的紀錄片。該片講述俄羅斯如何迫害性少數群體。故事主角是與迫害鬥爭的活動人士,為了避免遭受酷刑或被殺,都隱姓埋名。導演大衛·法蘭西考慮許多隱藏身份的方法後,決定採用 Deepfake 作「掩護」。法蘭西向世界各地的性少數活動家借臉,然後將這些人的臉嫁接到片中主角的臉上,他因此保留了拍攝對象所有面部表情,痛苦、恐懼和人性都一覽無遺。該片共掩護了 23 人,開創了新的揭秘者保護形式。
重塑歷史
7 月,麻省理工學院的兩位研究人員弗朗西斯卡·帕內塔和哈爾西·伯根德發起項目,講述 1969 年阿波羅登月事件另一種可能。該項目名為「月球災難事件」,使用理察·尼克森總統為登月失敗準備的演講。研究人員分別與兩家公司合作,利用Deepfake技術創作音頻和視頻,並聘請了一名演員提供「原片」表演。然後,研究人員用兩款軟體分別處理聲音和臉部,拼接成 Deepfake 尼克森。
這一項目展示 Deepfake 技術如何講述歷史可能、並且令人信服,而另一項目則預示歷史事實如何通過 Deepfake 活起來。2020 年 2 月,《時代》雜誌利用虛擬實境技術,重現了馬丁·路德·金在華盛頓的遊行,觀眾身臨其境。該項目並沒有使用 Deepfake 技術,但之後,騰訊在一份關於公司人工智慧計劃的白皮書中引用該項目,並表示 Deepfake 技術在未來可以用於類似目的。
表情包
夏末,Deepfake 自製表情包工具風行全網。尤其一款名為「Baka Mitai」的自製表情包。人們紛紛學會自己做,Baka Mitai 隨之爆紅。支持此類表情包的算法源於 2019 年的一篇研究論文。用戶利用該算法,可結合一個人的臉部照片與其他人的視頻製成動畫。其實再怎麼說,效果並不是很好,但特別搞笑。有這類現象也在意料之中,畢竟 Deepfake 等操縱媒體技術能發展,先玩起來、再跟風正是推動力之一。所以,一些專家強調需要設門檻,防止諷刺演變成濫用。
體育廣告
體育明星日程忙碌,平常很多時候聚在一起就不容易,在封鎖期間則全然不可能。所以,如果想在洛杉磯拍攝廣告,並且邀請了分散在全國、居家隔離的運動員出演,只能造假。8 月,流媒體網站 Hulu 播放一則廣告,以宣傳重新上線的體育節目。廣告由 NBA 球員達米安·利拉德、WNBA 球員斯凱拉·迪金斯·史密斯和加拿大冰球運動員西德尼·克羅斯比主演。這些明星放下烤麵包大業,回歸運動,打著籃球、或揮著冰球棒。真的是這樣嗎?非也。這些明星的臉是用 Deepfake 技術疊加到替身的臉上。該算法利用 Zoom 拍攝的球員影像進行訓練。其實多年來,人們一直用計算機技術來偽造類似事物,但有了 Deepfake,操作更容易、成本也更低。而在 2020 年,所有事情都只能遠程,Deepfake 技術更是蓬勃發展。除了 Hulu,包括 ESPN 在內的其他廣告商也嘗試了 Deepfake。
政治運動
9 月,在美國總統大選期間,無黨派宣傳組織 RepresentUs 發布了兩則 Deepfake 廣告,主角分別是俄羅斯總統普京和朝鮮領導人金正恩,傳達的信息都是:我用不著幹涉美國選舉,美國會自毀民主。這並不是政治運動首次使用 Deepfake 技術了。2020 年 2 月,印度政治家馬諾·蒂瓦裡在一段競選視頻中使用 Deepfake 技術,人們錯以為他在說 Haryanvi 語,即蒂瓦裡目標選民所講的印度方言。但 RepresentUs 的做法則顛覆了 Deepfake 技術在政治活動方面的形象。雖然專家們經常擔心,採用 Deepfake 技術會引起混亂、破壞選舉,但 RepresentUs 恰恰相反,該組織是試圖啟發公眾意識到選民壓制,來保護投票權、提高投票率。
電視秀
如果覺得 Deepfake 商業廣告、驚豔一時的應用有些眼熟,那麼情景喜劇《南方四賤客》製作者特雷·帕克和馬特·斯通用 Deepfake 做的事,想破腦袋都想不到。10 月,特雷·帕克和馬特·斯通推出新作《薩西·賈斯蒂斯》,這是第一部 Deepfake 電視節目。這檔諷刺節目每周更新一次,主角薩西·賈斯蒂斯為地方新聞臺記者,臉用 Deepfake 技術替換成川普的臉。節目中,薩西採訪了用 Deepfake 技術偽造的賈裡德·庫什納和阿爾·戈爾等人物,其中,庫什納的臉疊加在一個孩子的臉上。《薩西·賈斯蒂斯》問世後,Deepfake 技術便不僅用於營銷噱頭、惡意欺騙,而且衝擊了文化主流。技術不僅用來創造人物,而且本身也是諷刺對象。在節目第一集中,薩西·「川普」·賈斯蒂斯扮演消費者代言人,調查「Deepfake新聞」背後真相。