8月30日晚間開始，
一款名叫「ZAO」的應用軟體火遍社交網絡。
一秒變臉
在這款應用中，用戶可通過上傳自己的照片，用AI換臉功能，將影視劇中的演員換成自己的臉，然後把小視頻分享到朋友圈。 今年大熱劇《小歡喜》、《陳情令》、《親愛的熱愛的》中的一些熱門場景都能體驗。「ZAO」的用戶可以用自己的臉製作表情包，出演經典電影，跟偶像飆戲等。不少網友很快跟風下載，並在網上曬出了以自己為主角的視頻片段。一秒鐘變李現↓↓↓
一秒鐘學會跳舞佔據C位↓↓↓
還能唱跳、Rap、打籃球↓↓↓
30日晚，「ZAO」官方微博稱，「這個月花700萬租的伺服器，今晚已經消耗1/3了。明天如果繼續火爆，我們只能做嚴格一些的限制。」31日下午14時，「ZAO」在蘋果應用商店App Store的在免費App的下載排名中已躍居第二。「ZAO」一夜爆紅，不過換臉的安全性及隱私性問題很快引起了社會的廣泛討論和關注。網友的擔心不無道理，有媒體關注到，「ZAO」用戶協議中寫明，用戶發布內容前，統一授予ZAO及其關聯公司完全免費、不可撤銷、永久、可轉授權等權利。還有網友發現，用戶協議中寫明，若用戶違反協議導致第三方受損害，用戶應當獨立承擔法律責任並承擔賠償責任。此外，這款應用還涉及版權風險。「ZAO」上傳了大量國內外影視綜藝內容片段，但是否取得了這些天量視頻的著作權使用許可？如果沒有，那就面臨極高的版權風險。@法山叔 還在後續微博補充道，其協議本身就有違法律的基本原則……網友擔心換臉技術被用於不當用途
「ZAO」使用的開原始碼「deepfakes」，最早曾被用在情色電影的主角換臉，結果引發了技術有罪還是技術中立的爭論。今年初，B站UP主「換臉哥」發布了一段94版射鵰英雄傳視頻，原本飾演黃蓉的演員朱茵的臉被用「deepfakes」技術替換成了楊冪的臉，從流出的視頻和動圖看，雖然是用AI合成的，但是整體效果十分逼真。「ZAO」帶來的擔憂還不止這些。當下刷臉支付已經開始普及，有不少網友擔心：在刷臉支付盛行的背景下，「換臉」後的小視頻若落入他人之手，是否會危及刷臉支付的安全性？最新！「ZAO」修改用戶協議
新增「刪除面孔」功能
AI換臉應用ZAO爆紅，又因為在App協議中要求獲得用戶人臉照片「完全免費、不可撤銷、永久、可轉授權和可再許可的權利」，被指存在隱私與安全風險。
記者注意到，8月31日下午五點多，ZAO修改了其用戶協議內容，在用戶協議的開頭部分增加了「特別提示」，疑似回應網絡爭議。
這份提示指出，用戶上傳的短視頻和人臉，將嚴格按照相關法律法規的規定保留在ZAO上。除非為了改善ZAO的服務或者另行取得用戶的再次同意，ZAO不會以任何其他形式或目的使用上述內容。
之前已經上傳過人臉的用戶，如何保障自己的權利？反悔了怎麼辦？ZAO也在這份提示中給出了解決方案：用戶可以依據ZAO的平臺規則撤回或刪除上述內容，而在用戶撤回或刪除後，ZAO將依據相關法律法規在伺服器上予以刪除。
實測發現，在視頻替換功能的「添加面孔」頁面，新增「刪除面孔」的選項。但仍不清楚選擇「刪除面孔」後，ZAO 是否真的會將伺服器上的數據刪除。
右側為新界面，新增「刪除面孔」選項。圖/AI前哨站此外，網上爭議聲最大的兩條「霸王條款」，也有所修改。
舊版用戶協議第6條第2款中，要求用戶須授予 ZAO「完全免費、不可撤銷、永久、可轉授權和可再許可的權利」的內容，目前已被刪除。
新的表述是， 「在您使用『ZAO』提供的技術服務在『ZAO』內把用戶內容中的人臉換成您或其他人的臉時，您同意或確保肖像權利人已經同意授予『ZAO』使用『ZAO』的技術服務對您的或其他人的人臉進行處理，但僅為與用戶內容合成為新的內容」。
左為引起爭議的用戶協議，右為新版用戶協議。圖/AI前哨站網友評論
葉落夜秋水：這個軟體第一次讓我深刻得認識到了自己有多醜
Rocky.洛奇：玩一晚上了……
方長：如果技術有罪，是何異於刺人而殺之，曰非我也，兵也？但是謹慎使用是應該的，所以我保持觀望態度。
老四：要對技術保持樂觀。
Charley：這個和美圖秀秀、天天p圖一類的軟體應該大同小異吧？都是上傳圖片，處理，得到結果，軟體公司應該是都可以獲得用戶照片的，只要他們想要。至於獲得了拿來做什麼？希望加強監管，也希望類似的公司說清楚！
站在光中：希望還是能給出法律意義上的解釋。
在看到AI換臉視頻瘋轉的同時，也有人擔心自己的高清晰度、光線良好的照片被平臺獲取，是否會存在被拿去盜刷的風險，畢竟現在大街小巷都有刷臉支付的機器。
針對此事，昨天中午支付寶官方回應，目前網上各類換臉軟體有很多，但不管換得有多逼真，都是無法突破刷臉支付的。
他們表示，「刷臉支付」採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效避免各種人臉偽造帶來的身份冒用情況。
昨天，就人臉被冒用一事，我也找了杭州本地一家做金融安全的公司。對方表示，目前大部分和金融相關的人臉識別，用的都是安全級別較高的軟硬體，很大程度上避免活體檢測、視頻攻擊等帶來的風險，「但換臉的技術也在不斷更新，這樣的威脅會一直存在。」
目前，在手機銀行端，人臉也多為輔助認證的功能，真的涉及大額消費和轉帳，也還是以簡訊等其他認證工具為主。
你玩了嗎？
來源：南方都市報、中國青年報、中國新聞網等
責編：熊子文