而就在近日,日本警方就破獲了一起科技犯罪案。
三名男性涉嫌用AI換臉技術,將AV女主的臉,換成女星的模樣,發布在成人視頻網站牟利。
在此次性質惡劣的事件中,橋本環奈、石原裡美、新垣結衣、吉岡裡帆、廣瀨鈴等日本女星中招。
目前,日本警方以損害藝人名譽權為由將他們拘捕。
至於這些女星的經紀公司,是否會對3人提出訴訟,目前尚未得知。
說起AI換臉技術,它還有個更加專業的名字:DeepFakes。
這是一種利用人工智慧的深度換臉技術,也就是在圖像或視頻中把一張臉替換成另一張臉。
DeepFakes的出現可以說是人臉交換技術的一個突破。
利用這個技術,你只需要一個GPU和一些訓練數據,就能夠製作出以假亂真的換臉視頻。
比如川普撞臉希拉蕊。
歐巴馬的惡搞視頻:
歐巴馬在視頻中,做出很多讓人啼笑皆非的舉動。
讓不少網友信以為真。
但更讓人吃驚的是,受到這個視頻的啟發,有一個「天才」宅男,突然迸發出了與眾不同的靈感:
如果換臉的不是歐巴馬、不是川普,而是AV女優呢?!!
這位宅男真的說幹就幹,將自己心中的女神《神奇女俠》扮演者蓋爾·加朵,換在了某AV女優身上。
最後效果出來確實驚豔,一般人根本看不出瑕疵,簡直毫無違和感!
隨後這個清奇的思路,立即被某些灰色產業的商家,抓住機會發揚光大。
就這麼說吧,一個普通的「成人視頻」,經過這種方法炮製,可以瞬間變成幾十個,甚至上百個視頻。
比如,斯嘉麗·詹森、艾瑪·沃特森、娜塔莉·波特曼等女明星都「出現」在了成人網站上。
最終有人將這個技術傳到了國內,引發了一波換臉風。
比如,沈騰秒變賭神周潤發。
變東華帝君!
還有沈騰秒變洪世賢!
《西虹市首富》中的王多魚,換成王思聰。
以及在B站火極一時的,萬物皆可徐錦江。
當然,被「換臉」最多的還是女明星們。
把《射鵰英雄傳》中的朱茵換成楊冪。
把某女主播的臉,換成迪麗熱巴:
還有其他女明星:
當然,也有人將國內女星換成了小視頻的主角。
比如劉亦菲:
Angelababy:
王麗坤:
還有一些騙子就利用換臉技術,騙起了一些年紀比較大的人。
比如前段時間,登上熱搜的「假靳東的老年粉」事件。
一位61歲的阿姨,她偶然關注了一個視頻帳號,名字叫「靳東」,當然並非真人,是偽造的帳號。
這個「假靳東」每天通過話術跟大媽互動,還說要可以放棄一切跟阿姨結婚。
為了和「靳東」結婚生活,大媽要拋棄家庭,離家出走.
這種類型帳號的內容都是通過換臉和話術,專門對年紀比較大的阿姨進行欺騙。
即便封了一些帳號,依然會有新的帳號產生,繼續生產欺騙內容。
雖然吃瓜群眾看得挺過癮。
但當這樣的事情,發生在你自己身上時,你還會這樣想嗎?
比如國外一位22歲的女孩,在網上發現自己成為了一部小電影中的主角。
而連初戀都沒有過的她,只能一臉懵逼.
在如今的社交網絡,要找一個人的照片資料十分簡單。
這幾乎註定了普通人,也會成為這項技術的受害者。
網上有商家公開販賣用戶面部數據,數量達到17萬條。
AI換臉這事,好像又不只是看個樂子那麼簡單了。
當AI換臉一步步從遠方走進我們的生活,無比廣闊的網際網路世界,也許每一個用戶都無處可逃。
設想一下,你自己的臉突然出現在莫須有的小電影中,你該怎麼辦?
這項技術被濫用的後果,遠遠要更可怕。
比如:
1、拿你的視頻去網貸,你莫名其妙背上百萬債務。
2、拿你的視頻去做各類虛假的宣稱,你的名聲一敗塗地。
3、製作造謠詆毀你的各類色情視頻
而Deepfake技術發展到今天,越來越完美。
比如,可以控制屏幕中人物面部的所有表情、動作。
可以讓視頻中的人,做出任何他們想要的動作。
可以輸入不同的文字對白,直接改變視頻中人物的對話。
並且這些經過特殊處理的視頻,就算是專門的鑑定軟體,也不能100%甄別出來.
想想都可怕.
所幸,4月20日,全國人大常委會審議的《民法典人格權編(草案)》裡正式加了一條:任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。顯然,這裡可以偽造肖像的信息技術不僅包含傳統的PS等圖片處理軟體,也有DeepFakes這一類AI換臉模型。
(📱微信:riben-360)
【免責聲明】圖片素材整理自網絡,版權歸屬原作者,如發現存在版權問題,煩請提供信息我們將及時處理。本站內除標註原創,否則文內圖片均來源於網絡。