今天你被它刷屏了麼?熱衷於和明星「換臉」的各位,要小心了!

2020-12-13 閃電新聞

昨天凌晨,朋友圈突然冒出了一堆大明星,各個版本的「陳坤」、「鞠婧禕」、「王俊凱」、「胡歌」齊刷刷在朋友圈演戲了,只是左下角的「小頭像」跟原作不一樣。

這款名為「ZAO」的AI換臉App在社交網絡一夜爆紅,不少網友在朋友圈上傳分享自己換臉後的短視頻作品。

下載「ZAO」

記者手機跳出30次驗證

為了體驗這款刷屏APP,記者在蘋果商店輸入「ZAO」,竟然出現了兩款軟體,一款名為「顏技—全民AI視頻換臉做演員」,不過需要驗證才能下載,一直沒有下載成功,沒法體驗。

另一款為「ZAO-逢戲造臉」,介紹中稱是一款使用頂尖AI技術的換臉神器,僅需一張正臉照就能體驗新奇玩法。

記者點擊下載「ZAO」後,需要手機驗證,之後問題出現了,一口氣出現了30多次下載驗證,明明已經下載成功,後續的下載驗證還源源不斷跳出來,根本停不下來。

這或許是因為下載太火爆導致的宕機所致。「AI伺服器很貴很貴,只希望大家能給五星好評。」據ZAO官方微博介紹,8月11日放出3000內測名額,把伺服器壓壞了。這個月(8月份)花700萬租的伺服器,昨晚已經消耗了1/3。可見其火爆程度。

每天有換臉次數限制

未驗證照片無法分享

這款App最大的特點是,通過AI人工智慧來實現換臉。註冊完成後,系統會提示你選擇一張圖片——在你的相冊中,很多照片不清晰或者非正臉的照片都被系統否決的,不允許上傳。

在選擇完照片後,APP還會要求你進行一項特殊的操作——肖像驗證。用戶需要在攝像頭前進行眨眼、扭頭、張嘴、低頭等三個指示動作,在系統判斷你上傳的這張照片就是你本人之後,才能進行下一步操作。

這一舉動是為了避免該技術被惡意運用,要確保「你」沒有拿其他人的照片來惡意AI換臉。

隨後,在系統確認後,用戶可以在APP中提供的眾多模版中選擇自己喜歡的,既可以將自己的臉換成經典角色——比如「小李子」「謝耳朵」「緋紅女巫」,也可以將自己換臉成偶像的搭檔,還可以與好友兩人一起進行換臉。

換臉視頻製作顯示只需要1~10秒,但錢報記者發現至少需要30秒時間,一直在轉圈圈。經過肖像權驗證的視頻可以分享到微信、微博、QQ等平臺上,未經驗證的視頻則無法分享。

同時,用戶也可以通過這張軟體製作GIF動畫表情。而且用戶選過一次照片之後,後面製作視頻或GIF時不用再選,可一鍵換臉。每天的換臉次數也有限制,未經驗證照片只能使用10次。

陌陌核心團隊打造

股價已經3連漲

應用商店的App信息顯示,ZAO由長沙深度融合網絡科技有限公司開發。而天眼查資料顯示,該公司在2019年7月19日完成股東變更,由北京陌陌科技有限公司變更為海南喵咖網絡科技有限公司,100%控股。而無論ZAO的執行董事雷小亮和監事王力,同時也是海南喵咖網絡科技有限公司的兩大股東(各持股50%)。

更重要的是,雷小亮和王力均為陌陌高管,其中雷小亮是陌陌聯合創始人、遊戲業務負責人,王力則是陌陌聯合創始人、總裁兼COO。

以上種種信息意味著,陌陌繼續強化在社交業務上的布局。實際上,海南喵咖網絡科技有限公司今年上半年已經推出了哈你、DOKI、MEET相冊三款攝像錄影產品,以及是他、赫茲、CUE三款社交產品。

截至昨晚,陌陌股價已經三連漲,最新報價36.78美元。

換臉只是一個技術手段和工具,ZAO的精髓在於加好友,陌陌更加注重的是背後的社交和廣告營收。此前,有多款社交App曾在剛上線時火爆一時,之後便沒了聲響。ZAO會成為今年第一款現象級App嗎?

隱私權如何保障成疑問

之前類似技術曾用於不當用途

在ZAO的評論中,儘管有人表示軟體很好玩,很容易上癮,但更多的用戶擔心自己的隱私洩露問題。

一位網友就表示:「需要驗證手機號,還要直接上傳自己的照片,沒有註銷功能,頭像照片也沒有清楚功能,感覺隱私洩露的風險非常大。」

還有網友表示,他相冊中所有露臉的照片均被zao檢測到了,疑似侵犯肖像權。

通過zao分享到社交平臺的視頻可以下載,還有上傳視頻的用戶近照,這也有被不法之徒利用的危險。

之前,zao使用的開原始碼「deepfakes」,最早曾被用在了情色電影的主角換臉。

今年初,B站UP主「換臉哥」發布的一段94版射鵰英雄傳視頻,原本飾演黃蓉的演員朱茵的臉被用「deepfakes」技術替換成了楊冪的臉,從流出的視頻和動圖看,雖然是用AI合成的,但是整體效果十分逼真。

更有甚者,目前AI換臉黑產已經在國內形成了完整的產業鏈,從下遊成品情色視頻、中遊定製視頻到上遊軟體及教程都有提供,有的賣家甚至提供全產業鏈產品和售後服務。

被指或存在風險

此外,另據企鵝號新文化商業報導稱,有用戶犀利指出:一家科技公司,錄下了你的臉,知道了你的手機號,社交帳號,離刷開你的卡有多遠。

這一擔心不無道理。進入ZAO的操作頁面,用戶想要分享自己的換臉視頻,不僅僅是上傳照片那麼簡單,系統會以「肖像授權」為由要求用戶對準攝像頭人臉驗證,就如同銀行卡驗證一樣,必須按照指示完成「抬頭、側臉、張嘴」動作,之後用戶必須綁定手機帳號,分享社交平臺還需要關聯微信。

即使ZAO平臺本身不將用戶數據用作他用,也有可能遭遇黑客入侵,盜取資料。

此外,對於站內五花八門的影視素材,ZAO也涉及到侵權,對此,幾乎是在產品推出的同一時間,ZAO就發布了關於「侵權」的聲明,幾乎所有素材均不享有商業版權,並接受侵權舉報。

這些細節您都注意到了麼?

來源:錢江晚報/小時新聞記者 張雲山、企鵝號新文化商業、遼瀋晚報

本文編輯:毛雅楠

馬雲現身山東,稱最後一次以阿里董事長身份參加活動

山東自貿區揭牌!濟南將建汽車整車進口口岸…一大波紅利令人期待

樓上倒杯水樓下2分鐘就滴水!曹縣新農村建設村民房子滿是裂縫…住建局:管不著

超燃!24小時,感受壯美山東!

國慶大閱兵!規模超「9·3閱兵式」,有新武器亮相

威海文登遭遇龍捲風災害,約167戶房屋受損9名村民受輕傷

趙冀魯同志不再擔任山東省委常委

事發菏澤黃河河段!2個孩子落水,3個大人下水施救,僅1人生還…

我知道你在看↓

相關焦點

  • 換臉軟體ZAO刷屏 律師:存在侵犯隱私權肖像權風險
    換臉軟體ZAO刷屏 律師:存在侵犯隱私權肖像權風險 2019-09-01 10:38:01 來源:新京報  |  作者:羅亦丹 陳鵬 ​程維妙 | 字號:A+ | A- 換臉軟體ZAO
  • 換臉APP「ZAO」刷屏後,我們才正式準備迎接「刷臉時代」
    今天凌晨,ZAO官微表示,「伺服器還是滿負荷」。今天早上金沙江創投朱嘯虎發朋友圈,「轉:咱們網際網路發達的意思是:刷屏僅僅一夜之間,但,最重要的是大清早已經有10多個VC約團隊見面了……」而陌陌副總裁賈維則對外稱,「我司自研的產品,VC們別瞎忙活了。」
  • 「ZAO」作一時爽,但你知道AI換臉的後果嗎?
    只需上傳一張正臉圖片,便可以把影視劇作品中的明星臉替換成自己的臉,和影帝影后愛豆們飆戲,著實讓用戶過了一把明星癮。(關於刷臉支付,支付寶和銀行方面都有出來表態:「刷臉支付」採用的是3D人臉識別技術,在進行人臉識別前,也會通過軟硬體結合的方式進行檢測,來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。)在輿論的壓力下,今天我再看用戶協議時已經有了調整。
  • AI換臉軟體,它是什麼?你知道嗎?
    最近許多小夥伴們都在追捧一款超好玩的軟體--它就是AI智能換臉軟體,好多人都希望能夠玩轉這個黑科技,因為這款al智能換臉軟體太有趣了。現在目前比較流行的換臉軟體有fakeapp和licolico,但是fakeapp對機器GPU要求很高,操作過程也比較複雜, 而licolico視頻app是一款小白軟體,很好操作。
  • 一夜間整個朋友圈都在換臉?小心你的肖像權被倒賣
    這種新奇有趣的視頻,由一款名為ZAO的APP製作,其核心技術是通過人工智慧,將用戶的面部數據與明星進行替換。上傳一張照片就可以實現「AI換臉」,便捷的操作、有趣的玩法,很快就形成了病毒式傳播態勢。但ZAO熱鬧的背後,其實有著不少「細思極恐」的漏洞,涉及的法律、倫理、隱私等等問題均無法因一件「娛樂化」外衣消解。比如,有細心網友發現,ZAO的用戶協議暗藏玄機。
  • 換臉軟體ZAO刷屏 上傳照片可"主演"影視劇角色 隱私權肖像權存憂
    ZAO的視頻素材和表情素材,律師認為這當中ZAO和用戶均存在侵權風險。用戶在應用程式ZAO上傳個人照片後,可實現與明星換臉,用戶覺得「好玩」的同時,該軟體背後的隱私權、肖像權、版權等相關安全問題也引起關注。律師認為ZAO應醒目提醒用戶授權條款,同時ZAO和用戶都應該明確責任防止侵權。   新京報訊 近日,換臉軟體ZAO走紅網絡,用戶上傳個人照片後可「一鍵」進入沙溢、梁朝偉等明星出演的相關影視片段中,生成新視頻,同時還能製作表情包。
  • 刷屏了!Zao或成為中國最火AI軟體 滿足你和愛豆同框 陌陌出品
    提到人工智慧,很多人其實都沒有明顯感知,偶爾AI換臉會刷屏,但苦於製作難度高,並沒有風靡大眾。但不得不說,AI雖然被提及了很多年,但並沒有大眾產品出現,這並不意味著沒有公司看好這個領域,陌陌就是其中的一家。
  • 不雅視頻將女明星換臉成主角售賣 閒魚:零容忍
    而且還涉嫌構成刑事犯罪,它屬於傳播淫穢物品牟利罪,情節嚴重者可判無期徒刑。澎湃新聞諮詢閒魚相關人員獲得的回應是,該平臺對違反公序良俗的商品一貫以來採取零容忍態度,從嚴從重處罰違規行為。電商平臺不法分子兜售女明星AI換臉視頻AI換臉技術兩年前在國外出現時,就曾經被「用來換臉色情片女主角」。
  • 籤換臉app的用戶協議,你的臉就不再屬於你了
    其實B站上這種換臉視頻比比皆是,隨手一搜你就能看到。像徐錦江對戰滅霸、洪世賢換臉艾莉等等等等。但即使換臉視頻再多,你還是得等一些up主製作出來之後才能看到成片。如果想要自己製作,就還是要經過下載、安裝、訓練等一系列流程,多少會有些麻煩。而ZAO的出現,可以說是把用戶想要體驗的AI換臉門檻降到了最低。
  • 不雅視頻將女明星換臉成主角售賣:涉多重違法,電商稱零容忍
    還有一位類似賣家報價稱,75元套餐中有40多位女明星上百部的AI換臉視頻。北京志霖律師事務所副主任、中國政法大學智慧財產權研究中心特約研究員趙佔領律師對澎湃新聞表示,這種售賣明星換臉不雅視頻的行為,毫無疑問是構成肖像侵權的,也涉嫌構成名譽侵權。而且還涉嫌構成刑事犯罪,它屬於傳播淫穢物品牟利罪,情節嚴重者可判無期徒刑。
  • 你是戲精你就ZAO吧,AI換臉被用來製作當紅女星不雅視頻惹爭議
    原來,這是一款陌陌系出品的AI換臉軟體,它喊出「僅需一張照片,出演天下好戲」的口號,連日來刷屏朋友圈。用戶只要上傳自拍照,便可將自己「變成」影視片段的主角,並將這些「換過頭」的視頻片段,上傳各大社交平臺,引發病毒式傳播。9月1日,在蘋果應用商店App Store的免費App下載排名中,「ZAO」已雄踞首位。
  • AI換臉ZAO一晚,成本燒掉幾百萬
    問耕 發自 麥蒿寺量子位 出品 | 公眾號 QbitAI唯一能阻止ZAO刷屏的,可能是伺服器。斯坦福和普林斯頓大學等最新研究:給定任意文本,就能隨意改變一段視頻裡人物說的話。並且,改動關鍵詞後人物口型還能對得奇準無比。讓新垣結衣向你表白,讓石原裡美大聲喊出你的名字,甚至隨便根據某個人的視頻偽造個人陳述……現在都不在話下。
  • 三步輕鬆完成換臉視頻:AI換臉軟體,你值得擁有
    前段時間翻看明星微博,發現好多偶像都會用高科技手段換臉,我表示很羨慕,也想擁有這門黑科技,但是對於我這種科技小白來說真的好難。做一個換臉的視頻需要用到電腦程式,還要比較高的電腦配置,渲染很長的時間,才能做出一個比較完美的AI換臉視頻。
  • 從自拍到換臉,是全民狂歡還是娛樂至死?
    換臉APP「ZAO」橫空出世,「逢臉造戲」的深度融合換臉技術概念,讓這款APP在短短兩天的時間內位列蘋果應用商店免費榜和娛樂榜雙第一,用戶的火熱追捧甚至讓其服務一度宕機。小編的朋友圈一度被各種經典影視片段換臉視頻刷屏。
  • 從一夜爆紅到全民聲討,換臉應用ZAO究竟做錯了什麼?
    這是近日刷爆朋友圈的換臉應用ZAO逢臉造戲的廣告語。從刷屏走紅到質疑不斷,ZAO僅僅用了一天時間。對ZAO的質疑主要來自AI換臉存在的倫理道德風險,以及ZAO產品本身對用戶隱私和相關信息的保護程度。「AI換臉並不是新技術。」
  • ZAO的換臉軟體刷屏 但是用戶的個人信息安全嗎?(雙語)
    他們怎麼用你的肖像,你根本無法控制。」   "When you grant authorization to ZAO, all the rights of your face are no longer yours," another user named stoneyzombie commented.
  • 給了戲精表演舞臺:AI換臉軟體從業者這麼看ZAO爆紅
    「ZAO」的走紅,讓更多AI換臉軟體引發關注。比如「顏技」,它的口號是「與明星或偶像同框出現在影視劇中,體驗做一名演員的奇妙。」截至9月3日23時,在App Store免費App排行榜中,「ZAO」排名第一,「顏技」排名第14。在娛樂子類免費App排行榜中,「ZAO」排名第一,「顏技」排名第三。為何AI換臉App能夠走紅?這樣一款App是如何打造出來的?
  • 陌陌二季度月活用戶僅增5% 旗下換臉App「ZAO」存侵權隱患被約談
    長江商報消息 ●長江商報記者 張璐只要在APP中上傳一張正臉照,你想變成哪個明星,就能變成哪個明星。近日,陌陌旗下的AI換臉App「ZAO」一夜爆紅。同時,ZAO刷屏後引發的隱私安全焦慮也迅速升溫,有用戶指責平臺「利用用戶不仔細看條款內容的心理,永久使用用戶肖像權」;還有用戶因為「上傳照片後,自己刪不了」而擔心自己的「人臉信息被用於違法犯罪活動」。
  • AI換臉成關注熱點,搜索指數直衝7000
    用戶頻繁的搜索舉動也成功帶動了一系列的 AI換臉產品的榜單排名和下載量。日前,七麥數據調取關鍵詞「AI換臉」搜索結果顯示的 168 款 App。在搜索結果當中,【顏技】、【AI換臉】、【ZAO】依次位列前三。
  • AI換臉這玩意,求你們別再用它搞黃色了
    總之,AI 換臉不是什麼在實驗室才能用上的技術,民間大神剪刀手們,早已躍躍欲試。大神們嘗試換臉的最好素材,正是出自各種電視劇。自己心水的角色,再換上自己心水的明星...哇塞,人人都是導演系列?吳彥祖本尊,都成為換臉素材。有人將《都挺好》裡面作天作地的蘇大強,替換成吳彥祖的面龐。瞬間變成和藹老爹有木有...換臉作品來自b站up主:多謝烏蠅哥看,上圖換臉效果,比開頭那個嚇人的,要自然得多吧。