AI換臉:人工智慧的一場裸奔

2021-02-09 中國新聞周刊

AI換臉在技術上是成熟的，但它帶來一系列法律、倫理問題

這兩天，微信朋友圈和微博都被一個名為「Zao-逢聯造戲」的換臉APP刷屏。

上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的「緋紅女巫」，《鐵達尼號》中小李子扮演的「傑克」，或是《喜劇之王》裡的「柳飄飄」。

只需幾秒，便可跨越AI換臉的高難技術門檻，實現和偶像互動飆戲的美夢，如APP宣傳語所說，「只需一張照片，出演天下好戲」，很難不讓人心動。截至9月1日晚，該APP已經在蘋果商店免費榜排行第一。

有法律專業人士提出，該產品涉及侵犯著作權、肖像權、隱私權等諸多法律問題，有用戶表示「自己莫名成了權利侵犯者或受害人，不知道註銷（帳號）後是否能保護自己的肖像權」。但也有網友不懼隱患，直言「只要能和偶像同框，不怕風險」。

 

中國「Zao」

引發這場討論的根源是Zao隱藏在用戶協議中的霸王條款，一方面過度攫取用戶授權，另一方面涉嫌侵犯肖像權，並甩鍋給用戶。

在最初的用戶協議中，第6條第1款規定：「在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予Zao及其關聯公司以及Zao用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯。」

也就是說，用戶同意將自己的肖像授權給Zao，即便有一天肖像被再次轉賣也無能為力。

同時，協議第7條第7款寫明：「若您侵害他人名譽權、肖像權、智慧財產權等合法權利的...Zao可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或Zao平臺的其他規則導致任何第三方損害的，您應當獨立承擔法律責任並承擔損害賠償責任；Zao及其關聯公司遭受損失的，您也應當一併賠償。」

翻譯過來就是，如果有人起訴被侵犯了肖像權，Zao可以說技術無罪，侵權的是玩換臉遊戲的用戶。

這讓上一秒還在感嘆「科技改變生活」的網友坐不住了，Zao也馬上對協議作出了修改，新版用戶協議中刪除了「不可撤銷」「完全免費」「永久」等字樣，但問題仍未解決。

「我一直認為『AI換臉』隱藏了不可迴避的法律問題，所以看到Zao出現後，很好奇他們是如何解決的，很遺憾，他們並沒有解決。」北京煒衡律師事務所一級合伙人、律師李昆蔚對《中國新聞周刊》說，協議修改後，侵犯著作權、公眾人物肖像權的問題仍沒有解決，同時，用戶在註銷帳號後，動態和靜態肖像是否可以刪除，為什麼區別對待公眾人物肖像和普通人的肖像，「這些問題需要Zao來回答，也是我發問的初衷，目前還沒有收到Zao法務的回覆。」李昆蔚說。

Zao背後的註冊公司是「長沙深度融合網絡科技有限公司」，兩位實際控股人（各佔50%）與社交應用「陌陌」密不可分，執行董事雷小亮是陌陌公司聯合創始人兼遊戲業務部總裁，監事王力是陌陌公司董事、總裁及COO，而「北京陌陌科技有限公司」曾在2017年9月參股，直至今年7月19日才退出股東名單。據天眼查顯示，長沙深度融合預留的聯繫電話屬於陌陌科技，截至發稿，該公司並未對用戶協議問題作出回復。

換臉技術本身並不新奇，在美國好萊塢已經存在了20多年。2016年上映的《星球大戰外傳：俠盜一號》還原了《星球大戰4》（1977年）中總督塔金的角色，但其扮演者彼得·庫欣早在22年前就去世了，特效團隊為此找來一位長相酷似彼得的演員進行面部表情捕捉，然後用計算機動畫（CG）技術將塔金復活。不過盧克斯影業和迪士尼表示，在製作《星球大戰外傳》時已經取得了彼得家人和產權繼承人的同意。

將「換臉」推到風口浪尖的是一系列融合了AI技術的「假視頻」。

2017年12月，一個名為「深度偽造」（deepfakes）的用戶在美國論壇Reddit上發布了多段色情視頻，不同的是，他讓電腦學習好萊塢女明星的圖像資料，然後把女明星的面部移植到色情片女主角臉上，近乎完美地實現了動態換臉，這引發了大量討論和抨擊，最後以帳號被封告終。

不過，AI換臉並未消失，用戶「深度偽造」隨後直接開源了項目代碼，更多效仿者隨之而來，為了紀念他，便用他的名字代稱「AI換臉」技術。據說，Zao也是基於「深度偽造」開原始碼開發出來的，但Zao並不是第一個。

從「換臉」到「深裸」

2018年1月，一個名為FakeApp的軟體上線，可實現「一鍵換臉」，視頻內容也是千奇百怪，包括惡搞美國總統川普，或是將自己的臉貼到好萊塢明星上。雖然Reddit明令禁止換臉視頻和圖片在該網站傳播，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

今年6月13日，美國眾議院情報委員會召開關於人工智慧深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防範和應對措施。美國外交政策研究所研究員克林特·瓦茨認為，深度偽造技術對美國2020大選具有潛在威脅——若放任偽造視頻擴散，則會對美國民主選舉產生不良影響，挫傷選民的積極性。

就在聽證會結束後不久，一款名為DeepNude（深裸）的App宣稱能實現「一鍵脫衣」，它再次把AI技術應用中的法律倫理問題推到臺前。操作十分簡單，只要給它一張人像照片，等待30秒，就能得到一張裸照。由於風險超出可控範圍，研發團隊在產品上線幾天後便匆忙下架了該產品。

「我們啟動這個項目是出於娛樂的目的……從沒想過它會像病毒一樣擴散。我們不希望通過這種方式掙錢……從現在開始，不再放出任何版本，也不會授權任何人使用。」 DeepNude團隊6月27日公開聲明道。

教育科技公司Coursera聯合創始人、美國史丹福大學計算機科學教授、「百度大腦」原負責人吳恩達也在推特上公開批判，稱「DeepNude是AI技術最糟糕的應用之一」,AI技術的超級力量應該被用到推動世界發展的項目中。

「AI換臉技術是成熟的，之所以沒有被推廣，就是因為還有很多法律、倫理問題沒有討論清楚。」李昆蔚對《中國新聞周刊》說，「Zao現在的盈利方式還不清楚，但要是為了賺錢，去做一些鑽法律空子的事情，從而傷害了廣大用戶，是行不通的。」

除了侵權問題，還有網友擔心，既然人臉識別已經在支付場景得到應用，面部信息洩露，是否會導致帳戶被盜刷？對此，支付寶安全中心8月31日發布公告：「不管換臉軟體多逼真，都無法突破刷臉支付。」支付寶安全中心表示，刷臉支付採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

瑞士科學家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進行了較為全面的測評，嘗試用最前沿的人臉識別系統去識別假視頻，結果錯誤率高達95%。

《人民法院報》官網微博評論道：「試用任何一款新型軟體的時候一定要認真閱讀用戶協議，多留個心眼，保護好自己的各項權益。」

「我不知道我們能否為此做好充分準備，但是我們還可以做更多的工作，確定敵人的計劃和意圖，儘早找出並揭露它，告知公眾他們需要關注什麼，應當做什麼，而不僅僅忽略他們所看到的一切。」美國眾議院情報委員會聽證會主席亞當·希夫表示。

雖然沒有一招制勝的方法，但阻止深度偽造負面影響蔓延的方法有很多，誠如馬裡蘭大學法學教授丹尼爾·希特龍在上述聽證會上總結的，對深度偽造的內容不能一竿子打死，很多深度偽造的合成媒體內容具有存在的正當性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監管和規制。涉及刑事犯罪和一般網絡侵權的深度偽造適用不同的規制，監管應區別對待，美國相關立法目前主要從刑事犯罪角度對深度偽造予以規制。

值班編輯：羅曉蘭

推薦閱讀

▼ 

相關焦點

  • 人工智慧盛行下我們要「裸奔」多久?
    為什麼我們總在」裸奔？「我們最常接觸的app，是隱私侵犯的樂活地據新華視點報導，在淘寶鹹魚上可以輕而易舉的得到人臉信息，手持身份證的那種。賣家以專業的暗語招徠客戶，「出售人臉四件套，懂的來」等廣告語觸目驚心。
  • 2020年AI圈十大熱議焦點:演員換臉、AI找對象、去馬賽克
    一、限制AI出口：中美新規均限制AI技術出口 人工智慧「出息」了！2020年才一開年，川普政府就頒布新規，要限制人工智慧軟體的出口，而在去年，出口管制還主要是半導體等關鍵領域的軟硬體技術才享有的封鎖「待遇」。
  • AI換臉是色情報復的新武器
    不過，其中技術最為牛逼的是換臉 UP 主，他們用 AI 換臉技術，可以將蔡徐坤變成任何人，栩栩如生。網友眼中有些古板的孫悟空六小齡童，在 AI 換臉的世界中，成了時尚潮男。△ 來源：B 站 up 主 六學世家雖然我對蔡徐坤不是很熟，但我還是要謝謝蔡徐坤，是他讓我領略了 AI 換臉的有趣，展開了對 AI 換臉的學習。
  • AI換臉後毫無違和感
    這位網友在2017年底使用谷歌開源機器學習框架編寫了一個不同換臉人工智慧>，他使用了很先進的機器學習思想，同時訓練了兩個人工智慧，一個用來換臉，另外一個用來識別換臉。因此只要再設計一個人工智慧，對其相關細節進行檢測，就能分辨其真假。
  • 5G支持下,人工智慧除了AI換臉,還能幹什麼?
    近年來，一種AI換臉技術在網絡人群中掀起火熱潮流，也將人工智慧這項新興科技帶入到普通人的生活中。人們開始討論人工智慧將給人類帶來怎樣的改變。
  • 從AI換臉到AI脫衣,AI究竟做錯了什麼?
    換臉軟體 「ZAO」 存在的每一個安全隱患，都與我們息息相關。最重要的一點是，只需一張圖片就能換臉的話，也容易引起詐騙等問題。比如：針對我們留學生群體，在電信詐騙防不勝防的今天，如果「ZAO」的換臉技術被壞人加以利用，偽造視頻傳給遠方的家人，蒙圈兒相信，我們的家人，大多數都會被騙。
  • Deepfake AI換臉,一場「貓和老鼠」的追擊戰
    數月前開始，關於「AI換臉「的話題時不時地登上熱搜，網友們一邊對這一科技大法respect，一邊調侃XX明星的演技。按理說，科技為大眾帶來娛樂的祥和氛圍挺好的，不過，是時候換個角度來看看這種技術帶來的一些偏門應用。
  • 劉亦菲粉絲自打自臉，ai換臉朱琳被吊打，神顏經不起折騰
    最近，劉亦菲粉絲ai換臉了朱琳，也就是《西遊記》中女兒國國王這一經典角色當然也不排除粉絲自打自臉，非要逼著劉亦菲不適合的造型上ai換臉。《西遊記》中女兒國國王的角色，真的是十分經典了，給人留下的印象也十分深刻。劉亦菲粉絲這次給劉亦菲ai換臉朱琳，應該也是想讓神仙姐姐走進經典之中。但還是很遺憾的翻車了，劉亦菲的神顏也經不起粉絲的這種折騰。
  • 換臉蔡徐坤的AI技術,會成為色情報復的利器
    不過，其中技術最為牛逼的是換臉UP主，他們用AI換臉技術，可以將蔡徐坤變成任何人，栩栩如生。網友眼中有些古板的孫悟空六小齡童，在AI換臉的世界中，成了時尚潮男。△來源：B站up主 六學世家雖然我對蔡徐坤不是很熟，但我還是要謝謝蔡徐坤，是他讓我領略了AI換臉的有趣，展開了對AI換臉的學習。
  • 劉亦菲ai換臉，挑戰《西遊記》經典角色，沒想到顏值被吊打
    最近，劉亦菲粉絲ai換臉了朱琳，也就是《西遊記》中女兒國國王這一經典角色，很罕見的劉亦菲顏值被吊打了，劉亦菲粉絲也是自打自臉，「神仙姐姐」的神顏可經不起這麼折騰。換臉。劉亦菲粉絲這次給劉亦菲ai換臉朱琳，應該也是想讓神仙姐姐走進經典之中。但還是很遺憾的翻車了，劉亦菲的神顏也經不起粉絲的這種折騰。
  • 仝卓被AI換臉,人工智慧竟然這麼厲害!如何選AI專業的院校?
    近日，優酷播出新劇《了不起的兒科醫生》，原本劇中仝卓被AI全集換臉，臉變成了另一個演員，讓人感嘆「AI技術真強大」。對於AI應用於影視劇，很多人是支持的，新技術讓影視作品擁有更多可能；還有部分人是不支持的，認為這樣會有更多的替身和更多無良的演員出現。AI技術到底有多厲害？
  • 不僅是AI換臉 人工智慧已滲透進整個文娛行業
    有網友將最近播出的電視劇《都挺好》中讓人恨得牙痒痒的蘇大強，用AI換臉變成了眉清目秀的吳彥祖，場景竟毫無違和感。被AI調戲不止蘇大強，楊冪、朱茵、徐錦江、洪世賢、梁非凡，B站名場面全被AI換臉調戲了一遍。在AI時代，眼見不一定為實。其實，也不僅僅是AI換臉，AI已經滲透進整個文娛行業。
  • 當年因一番話被抵制,徐靜蕾內涵沒腦子,今新劇被ai換臉難復出
    而她也曾公開內涵某演員，這個演員當年因一番話被抵制，被徐靜蕾內涵沒腦子，今新劇被ai換臉難復出。後來片方就想了一個辦法，就是ai換臉，這種手法是近兩年才出現的。一開始是運用在鬼畜視頻上，但是後來也逐漸被影視作品運用。
  • 愛情公寓:本以為張偉版閃靈是AI換臉,有誰注意額頭細節,懵了
    一開始愛情公寓全員張偉臉的確是通過ai換臉展現出來的，但是看到張偉版的閃靈之後，卻讓網友們懵了。小黑髮明了顏值平均眼鏡，把眼鏡分發給了愛情公寓裡的所有小夥伴，每個人戴上看到的人都是張偉，還以為這種手段是ai換臉，但是當咖喱醬戴著顏值平均眼鏡看恐怖片閃靈時，卻讓網友們懵了。
  • 你愛玩的換臉app 正在催生一個失序的世界
    實際上，一波人工智慧換臉應用的熱潮已經出現，我們稍不注意就可能掉入陷阱之中。本期RUC新聞坊為你梳理這些以假亂真的換臉技術的產生和發展，並搜集國外媒體觀點總結這些顛倒身份、穿越時間的圖像和視頻可能給我們的生活帶來什麼影響。上周有一款名為FaceApp的 AI換臉APP火遍整個社交媒體，世界各地的明星等公眾人物爭相在社交平臺分享自己的「老年」照片。
  • 微軟北大聯合提出換臉 AI 和臉部偽造檢測器,演繹現實版「矛與盾」?
    換臉技術甚至已經可以達到以假亂真的換臉效果；但由於換臉技術的濫用可能會為社會帶來一系列惡劣影響，研究人員也在不斷探索該技術的原理，並希望能夠解決這一難題。無訓練換臉——FaceShifter從相關資料可以看到，FaceShifter 能夠將目標圖像中的人替換為源圖像中的另一個人的同時，保留其頭部姿勢、面部表情、燈光、顏色、強度、背景和其他屬性特徵。
  • AI「換臉」有危險(網上中國)
    遊客在上海外灘觀光隧道的未來藝術館的畫作前體驗人工智慧的換臉技術。楊建正攝(人民圖片)一些網絡黑產從業者利用電商平臺，批量倒賣非法獲取的人臉等身份信息和「照片活化」網絡工具及教程。徐 駿作(新華社發)AI「換臉」你玩過嗎？隨著圖像處理和人工智慧技術的發展，不少「換臉」應用走紅網絡。只要動動手指，就可以將自己的臉替換成明星或是朋友的臉。
  • AI換臉APP一夜爆紅,換臉一時爽,個人隱私卻...
    這款名為「ZAO」的AI換臉App在社交網絡一夜爆紅，不少網友在朋友圈上傳分享自己換臉後的短視頻作品。每天有換臉次數限制未驗證照片無法分享這款App最大的特點是，通過AI人工智慧來實現換臉這一舉動是為了避免該技術被惡意運用，要確保「你」沒有拿其他人的照片來惡意AI換臉。隨後，在系統確認後，用戶可以在APP中提供的眾多模版中選擇自己喜歡的，既可以將自己的臉換成經典角色——比如「小李子」「謝耳朵」「緋紅女巫」，也可以將自己換臉成偶像的搭檔，還可以與好友兩人一起進行換臉。
  • AI換臉讓我的生活，成了你的色情片！
    其實，這些所謂的「性愛視頻」，全部都是通過AI換臉技術，把明星的臉換到色情視頻上。說起AI換臉技術，可能大家都有所耳聞，比如去年就有個視頻，網友把94版《射鵰英雄傳》中朱茵扮演的黃蓉，替換成楊冪。一名叫「deepfakes」的用戶，通過換臉技術，將她的臉換到了原主角的臉上。
  • 人工智慧換臉術讓楊冪火了!(中國人工智慧產業全貌 都在這張AI勢力範圍圖)
    視頻發布者通過人工智慧AI換臉術將原版黃蓉的飾演者朱茵，換成了楊冪！真真假假，讓人根本分不出。這是原版的朱茵截圖：應用人工智慧換臉術後，把朱茵的臉換成楊冪：2017年人工智慧的崛起氣勢如虹，創業者在資本的熱潮中狂歡，對AI可能給各行業帶來的革命性變革奔走相呼，然而在過去的2018年，區塊鏈的浪潮和共享單車的大起大落，卻一度讓人工智慧黯然失色、星光不再。