換臉軟體ZAO走紅網絡 隱私權肖像權存憂

2021-01-16 人民網

原標題:換臉軟體ZAO刷屏 隱私權肖像權存憂

  ZAO的視頻素材和表情素材,律師認為這當中ZAO和用戶均存在侵權風險。APP截圖

  「僅需一張照片,出演天下好戲」。用戶在應用程式ZAO上傳個人照片後,可實現與明星換臉,用戶覺得「好玩」的同時,該軟體背後的隱私權、肖像權、版權等相關安全問題也引起關注。律師認為ZAO應醒目提醒用戶授權條款,同時ZAO和用戶都應該明確責任防止侵權。

  新京報訊 近日,換臉軟體ZAO走紅網絡,用戶上傳個人照片後可「一鍵」進入沙溢、梁朝偉等明星出演的相關影視片段中,生成新視頻,同時還能製作表情包。

  用自己的照片跟明星「換臉」

  8月31日,舒米(化名)在朋友推薦下下載了ZAO,午休時間就製作了7個換臉視頻。舒米表示,他最喜愛自製的《武林外傳》片段,他首先在ZAO的視頻素材庫裡選擇電視劇《武林外傳》的片段,該片段的內容為演員沙溢和演員唐靜的一段男女對手戲。

  舒米按照ZAO的提示,將自己與女朋友的臉成功替換進了電視劇片段當中。ZAO顯示,用戶點擊演員替換並進行手機拍照,要求人臉正對鏡頭露出臉的輪廓,保持光線勻稱等,用戶按照要求上傳照片後,點擊製造視頻,16秒左右即可生成換臉後的視頻。舒米感覺「很有意思」。

  小林喜歡梁朝偉,他在ZAO視頻素材庫裡選擇電影《無間道》裡的經典片段,生成視頻後分享,小林直言「毫無違和感」。

  ZAO還能讓用戶成表情包主角

  ZAO還能造表情,用戶可將自己的臉替換成表情包的主角,與造視頻功能類似。用戶無論是在進行「造視頻」或「造表情」時,除了自行拍攝外,都可以從手機相冊中選擇照片上傳。

  提交上傳照片後,ZAO會進行非公眾人物驗證和肖像權驗證,確保符合相關法規才能使用。所謂肖像權驗證即ZAO通過手機前置攝像頭拍攝,對用戶臉部進行掃描驗證。

  每張用戶上傳的未經肖像權驗證的照片,會有10次製作視頻的機會,肖像權驗證即用戶在軟體中通過手機攝像頭進行人臉認證,這意味著,用戶有機會上傳他人照片,利用他人照片製作換臉視頻。但未經肖像權驗證的視頻無法分享。

  因為簡單易操作,該軟體迅速走紅社交網絡。

  ■ 追問

  用戶隱私可用於關聯公司是否安全?

  律師認為,授權條款被淹沒在ZAO用戶協議中,應更醒目地提醒用戶

  ZAO在用戶協議中寫道,「保護您的用戶信息與個人信息是ZAO及其關聯公司的一項基本原則,您同意,ZAO及其關聯公司將按照本協議及《隱私政策》的規定收集、使用、存儲、管理和保護您的用戶信息與個人信息;若您不同意或無法接受《隱私政策》全部或者部分條款或者有疑問的,請立即停止使用ZAO提供的服務,您繼續使用ZAO提供的服務將被視為接受」。

  上述協議內容意味著,ZAO將在用戶同意的情況下,按照相關規定,收集、使用、存儲、管理和保護用戶信息與個人信息。不僅如此,用戶協議還規定,「在您上傳及/或發布用戶內容之前,您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用戶內容進行全部或部分的修改與編輯」。

  北京盈科(杭州)律師事務所律師方超強表示,用戶隱私信息等權益給第三方使用,必須要有用戶的明確授權。

  中國政法大學智慧財產權中心特約研究員趙佔領表示,ZAO作為提供格式條款的一方,對於免除或者限制自己責任的格式條款,應採取足以引起對方注意的方式提醒用戶。但是,目前ZAO授權條款淹沒在用戶協議的眾多內容之中,絕大多數用戶根本注意不到。

  素材內容及換臉後的視頻是否侵權?

  律師認為用戶和平臺存在侵犯他人肖像權以及版權的風險

  ZAO的每個用戶上傳未經肖像權驗證的照片,擁有10次製作視頻的機會。但ZAO在上傳照片時會提示,「ZAO會進行非公眾人物驗證和肖像權驗證,確保符合相關法規才能使用」,新京報記者隨機選用明星蔡徐坤在公開場合發布的照片進行測驗,軟體顯示,「檢測到公眾人物,疑似侵犯公眾人物肖像權,無法通過圖片添加。」但微博上有利用ZAO將明星李現換進明星張翰所出演的影視片段中的「成功作品」,實現李現與張翰的換臉。

  同時,ZAO在版權聲明中提到,產品上存在的短視頻和表情等素材,除了特別聲明是ZAO跟合作方進行版權合作的之外,均來源於ZAO用戶自發上傳,ZAO不享有素材的商業版權。

  但新京報記者了解發現,上傳素材需要通過權限認證,用戶需提交申請等待審核通過,同時並不能確定ZAO上的現有視頻與表情包素材均符合版權要求。

  方超強認為,根據合同原則,權利義務是相對應的,責任限定上傳的用戶有義務去獲得相應的授權來確保上傳的肖像權沒有問題,但這個只是用戶和平臺方ZAO之間的合同義務,如果肖像權屬本人沒有給用戶授過權,平臺就用了這個肖像生成了相應的作品,比如一個明星的肖像被用戶上傳了,平臺默認為用戶上傳是有權限的,從而做了商業性的使用,那麼平臺依然會構成肖像權的侵權。

  趙佔領稱,用戶對於其ZAO平臺上所上傳的內容,有的擁有版權、肖像權,或者從權利人處獲得授權,但是有的並未獲得權利人的授權。比如,用戶可能未經授權將影視劇的片段上傳到平臺,該行為構成版權侵權,ZAO對於用戶的侵權行為是否承擔責任一般根據通知刪除規則來判斷,即當權利人向ZAO發出侵權通知後,ZAO應該及時刪除侵權內容,但ZAO如果明知或應知用戶上傳的內容侵權而不刪除,則構成侵權。

  ■ 追訪

  支付寶稱ZAO不會威脅刷臉支付

  也有用戶評論ZAO「(存在)刷臉支付安全隱患」。螞蟻金服相關人士8月31日對新京報記者表示,目前網上各類換臉軟體有很多,但不管換得有多逼真,都是無法突破刷臉支付的。

  該人士稱,「刷臉支付」採用的是3D人臉識別技術,在進行人臉識別前,也會通過軟硬體結合的方式進行檢測,來判斷採集到的人臉是否為照片、視頻或者軟體模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。

  此外,在進行人臉識別後,部分用戶還需要輸入與帳號綁定的手機號進行校驗,進一步提高了安全性。同時,支付寶還會通過各種安全風控策略確保帳戶安全。比如刷臉支付功能需要用戶進行開通操作,開通之後才能進行支付,用戶也可以隨時關閉。而且,即便出現帳戶被冒用的極小概率事件,支付寶也會通過保險公司進行全額賠付。

  事實上,關於生物識別技術的運用規範,業內一直有所討論。CF40學術顧問、中國國際經濟交流中心副理事長黃奇帆也曾指出,網上安全認證技術,比如生物、二維碼、虹膜、指紋、刷臉、聲音等辨別認證技術必須「特許經營」,凡此類技術公司設立必須「先證後照」,必須有較高的進入門檻。

  ■ 延展

  利用AI換臉制淫穢視頻

  多家外媒曾報導國外的換臉軟體被用來製作名人的色情視頻。《衛報》稱此類軟體為「對未來可怕的一瞥」,顯示了對人工智慧未來可能造成的倫理問題的擔憂。

  新京報曾在先前報導中提到,國內也存在利用AI換臉技術製作淫穢視頻的產業鏈。當時,網絡安全專家張百川就曾提示,普通人可能不太容易學會「AI換臉技術」,但有人可能利用此項技術製成有類似功能的軟體,「那麼普通人只要在APP上上傳照片即可」。針對個人如何防範的問題,張百川說,「個人很難防範,如果你有照片在網際網路上,就會有(被利用的)風險」。

  新京報見習記者 程子姣 記者羅亦丹 陳鵬 程維妙

(責編:袁勃)

相關焦點

  • 「ZAO」AI換臉軟體爆紅網絡 被指涉嫌過度攫取用戶授權
    【CNMO新聞】8月31日,一款名為「ZAO」的AI視頻換臉軟體爆紅網絡。據悉,這款軟體使用AI技術,用戶只需提供一張清晰的正臉照,就可以替換視頻片段中的人物,生成以自己為主角的視頻片段。以下為「法山叔」的分析全文:最近一款名為ZAO的換臉app開始在各大社交網絡刷屏。作為法律工作者,我認為ai換臉中有很多法律問題是有爭議的,於是便懷著好奇的心態看了下他們的用戶協議,然後,我發現了協議中巨大貓膩,及我絕對無法接受的法律風險。
  • ZAO換臉火遍社交網絡 其實隱藏著隱私風險
    [PConline 資訊]8月31日凌晨一個名叫Zao的應用突然火遍社交網絡,在iOS商店的APP排行中,App下載量也超越愛奇藝、騰訊視頻兩大國民級應用,目前在截稿之前已經攀升至娛樂類第一位。其實這款軟體早在三個月前上架了第一版0.2版本,目前最新的版本是已經第三次更新之後的1.1版本。而軟體的玩法其實並不複雜,用戶可通過上傳照片,軟體鼓勵上傳自拍照,用AI換臉功能,將短視頻中的演員換成自己的臉,然後分享到朋友圈。「可以和自己的偶像同框」,簡單做明星夢的新鮮玩法讓這款軟體迅速躥紅。但簡單的依靠用戶上傳,容易的發布分享玩法背後,隱藏著不少值得關注的風險。
  • AI換臉軟體「ZAO」突然爆紅:照片傳了刪不了,慎用
    8月31日消息,昨日晚間,一款名為「ZAO」的AI換臉App突然爆紅。該軟體僅需用戶一張正面照片,即可將自己的臉替換到影視劇中的角色身上。如今AI換臉技術走紅,楊冪也曾被換臉到朱茵所主演的黃蓉身上。在應用商店中下載「ZAO」軟體後,需要上傳一張正面清晰照片,照片不能遮擋面部輪廓、不能帶有嘴角弧度、側面幅度不可過大、眼鏡不能有遮擋。上傳完成後,App需要用戶進行肖像權認證,若該App中已有好友,那麼好友可使用用戶的面孔進行製作,但無法下載原始面孔數據。進入「ZAO」App後,可以選擇「造視頻」或「造表情」。
  • 官方回應換臉軟體「ZAO」涉嫌侵權:已制定多項法規標準
    摘要 【官方回應換臉軟體「ZAO」涉嫌侵權:已制定多項法規標準】在國新辦18日舉行的新聞發布會上,國家網際網路信息辦公室副主任劉烈宏對AI換臉技術軟體「ZAO」涉嫌侵犯個人隱私及霸王條款一事做出回應。
  • 10秒跟明星換臉?這款AI換臉軟體一夜走紅!但用戶協議你看了嗎
    清朗天空感受法治新生態近日,一款名為「ZAO」的換臉軟體在朋友圈刷屏。據了解,ZAO使用AI技術,用戶只需要一張正臉照,就可以替換為影視作品或者小視頻中的人物,生成以自己為主角的視頻片段。換臉軟體「ZAO」一夜爆紅「ZAO」是一款使用AI技術換臉的軟體,據它的應用介紹,只需一張正面照,就可以玩轉所有表情包和經典影視片段,讓你過足戲癮。用戶註冊完成後,系統會提示你選擇一張圖片——在你的相冊中,很多照片不清晰或者非正臉的照片都被系統否決的,不允許上傳。在選擇完照片後,APP還會要求你進行一項特殊的操作——肖像驗證。
  • AI換臉軟體一夜爆紅遭質疑 楊冪朱茵被隨意換臉
    網易娛樂8月31日報導  8月30日晚,一款名為"ZAO"的AI換臉軟體在社交媒體刷屏,用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。據數據顯示,該款軟體實為陌陌旗下的App。同時AI換臉技術也被用在情色視頻黑色產業鏈中,從而引發質疑。早在2017年12月,國外某ID名為「deepfakes」的Reddit論壇用戶首次將自己製作的AI換臉視頻發布在了網絡上,它能夠把照片和視頻中的人臉替換成任何想要替換的人臉,肉眼難分真假。當時「deepfakes」把情色電影裡的女主角換成了蓋爾·加朵等好萊塢明星。
  • AI換臉ZAO原來是陌陌系,用戶擔心「臉」被盜用,微信下手封殺
    近日,AI變臉應用「ZAO-逢臉造戲」朋友圈在走紅,並迅速衝上微博熱搜及手機應用商店榜單,成為周末大家競相體驗的AI變臉APP,不過因為用戶個人信息存在洩露風險,引來用戶爭議。因為,此前該應用在APP協議中要求獲得用戶人臉照片「完全免費、不可撤銷、永久、可轉授權和可再許可的權利」,被指存在隱私與安全風險,以及肖像權侵權問題。8月31日下午,ZAO悄悄修改了其用戶協議內容,疑似回應網絡爭議。新增內容中承諾,用戶上傳的短視頻和人臉,將嚴格按照相關法律法規的規定保留在ZAO上。
  • 3天登頂下載榜 陌陌系換臉軟體ZAO是怎麼造出來的?
    與此同時,作為一款AI換臉軟體,「ZAO」刷屏後引發的隱私安全焦慮也迅速升溫。8月31日晚間開始,有網友聚集在「ZAO」的官方微博,要求註銷帳號,刪除本地面孔。至9月1日晚間,「ZAO」在App Store的評分已由此前的4.6分降至1.9分。作為陌陌系一員的「ZAO」,有哪些爆紅基因?
  • 「換臉」App刷屏朋友圈 監管當與時俱進
    新聞背景:這幾天,一款名為「ZAO」的「換臉」App刷屏朋友圈。大量用戶使用這款App上傳自拍照片,將自己「變成」影視片的主角,並將這些「改頭換面」過的視頻片段上傳微信朋友圈等社交平臺,引發「病毒式」傳播。在軟體火爆傳播之餘,也有用戶在社交媒體表達對隱私洩露的擔憂。
  • AI換臉App刷屏朋友圈 專家:此類軟體存在隱私洩露風險
    央廣網北京9月1日消息(記者潘毅)據中央廣播電視總臺中國之聲《新聞縱橫》報導,這幾天,一款名叫「ZAO」的軟體受到熱捧,相信不少人在自己的朋友圈都看到有朋友轉發通過這個軟體生成的「換臉視頻」。什麼是「換臉視頻」?
  • 100多位女明星「變」成愛情動作片主角,換臉軟體犯了幾宗罪?
    這個牛逼哄哄的技術很快就吸引了技術宅們的注意,大量用戶選擇下載了這款軟體「試用」,民間一時興起了一股換臉熱。 沒想到不到兩年,國內就有公司悍然開發出專門「換臉」的APP。 為什麼說這項技術恐怖呢? 我們數數它有幾宗罪: 第一,技術會被濫用,侵犯肖像權、著作權等等。
  • AI換臉APP刷屏朋友圈 爆火背後暗藏哪些隱患?
    (原標題:AI換臉APP刷屏朋友圈,爆火背後帶來哪些商機、暗藏哪些問題?)據中國之聲報導:這幾天,一款名叫「ZAO」的軟體受到熱捧,相信不少人在自己的朋友圈都看到有朋友轉發通過這個軟體生成的「換臉視頻」。什麼是所謂「換臉視頻」呢?
  • 【交警提示】「換臉」APP走紅,換臉無小事,風險需自知!
    【交警提示】「換臉」APP走紅,換臉無小事,風險需自知!來源:澎湃新聞·澎湃號·政務 眼下,基於人工智慧技術的「換臉
  • AI換臉APP刷屏朋友圈 爆火背後有哪些商機、隱患?
    AI換臉APP刷屏朋友圈,爆火背後帶來哪些商機、暗藏哪些問題?  據中國之聲報導:這幾天,一款名叫「ZAO」的軟體受到熱捧,相信不少人在自己的朋友圈都看到有朋友轉發通過這個軟體生成的「換臉視頻」。什麼是所謂「換臉視頻」呢?
  • 換臉APP不要隨便玩,有可能讓你背上網貸
    同時不少「換臉」應用走紅,只要動動手指,就可以將自己的臉替換成明星或是朋友的臉……在正在到來的「看臉」時代,生活越來越便利,娛樂方式也越來越多樣,但「刷臉」帶來快樂的同時,也帶來了足夠的安全感嗎?去年2月,深圳某人臉識別企業被證實發生數據洩露事件,超過250萬人的核心數據可被獲取,680萬條記錄洩露,其中包括身份證信息、人臉識別圖像及GPS位置記錄等。
  • AI換臉、手繪漫畫、PS修圖各顯神通!
    今年情況特殊,不少學生未能返校畢業,為了彌補遺憾,有高校學生自發用PS技術製作了「雲畢業照」,瞬間走紅網絡;許多高校也提供雲畢業照服務,以實景實圖,動漫風格的、油畫風格的、扁平化風格的等等虛擬背景,為學生留下巨大的「繪畫空間」。還有些學生技術升級,用上AI 技術合成雲畢業照,在值得紀念的校園角落,留下最美的自己。
  • ZAO轉涼背後:當視頻能被快速「PS」,我們卻慌了
    用非公眾人物的臉部照片完成AI換臉的視頻製作後,只可以預覽,不能用於分享,如果需要分享,必須要通過ZAO設置的實時人臉認證,用戶需要對著攝像頭做出點頭、眨眼等動作,以證明肖像權的所有者。ZAO的玩法快速火爆,也立馬引發了輿論對人臉隱私安全的質疑,而且ZAO的奇葩用戶協議引起了公憤,這款剛剛躥紅的現象級APP迅速被用戶嫌棄而涼涼了。
  • AI換臉app刷屏,刷臉支付會被破解嗎?
    近日,一款「換臉」軟體再度引發了人們對於AI換臉技術和用戶隱私保護的討論。在這款名叫「ZAO」的軟體裡,用戶可以上傳自己的照片,通過AI換臉功能,讓自己「變身」成為熱門影視劇中的男女主角,隨後還可以將小視頻分享到朋友圈。
  • 陌陌在ZAO什麼?-虎嗅網
    這是一款基於AI技術的視頻換臉神奇,其技術角度與前幾年大火的臉萌似乎無異,只是形式發生了變化。據悉,ZAO的開發商為長沙深度融合網絡科技有限公司,其背後為海南喵咖網絡科技的全資子公司,該公司兩個的實際控制人為雷小亮與王力。