【換臉AI升級版】面部表情、身體動作、視線方向都能實時遷移

2021-02-09 新智元



  新智元報導  

來源:thenextweb

編輯:肖琴

【新智元導讀】「變臉」技術已經不新奇,來自德國慕尼黑工業大學、史丹福大學等的一組研究人員最近開發了一個叫「HeadOn」的AI,它可以「變人」——根據輸入人物的動作,實時地改變視頻中人物的面部表情、眼球運動和身體動作,使得圖像中的人看起來像是真的在說話和移動一樣。

論文:http://niessnerlab.org/papers/2018/7headon/headon_preprint.pdf

來自德國慕尼黑工業大學、史丹福大學等的一組研究人員最近開發了一個AI,它可以將你的實時的面部表情、眼球運動和姿勢轉換成肖像,使得圖像中的人看起來像是真的在說話和移動。這種技術創造的肖像非常逼真,甚至逼真得令人不安。

這個AI被稱為HeadOn,創造它的人正是去年研發了令人瞠目結舌、引發很大爭議的「變臉AI」Face2Face的團隊。事實上,HeadOn可以說是Face2Face系統的升級版。

HeadOn的視頻演示:

研究人員在論文裡將這個系統稱為「首個人體肖像視頻的實時的源到目標(source-to-target)重演方法,實現了軀幹運動、頭部運動、面部表情和視線注視的遷移」。

根據研究人員的說法,沒有其他系統能做到這樣。它結合了多種技術——其中大部分是由這個研究團隊首創或完善的。

為了解決視線注視的問題,該團隊之前開發了FaceVR

研究團隊去年在Face2Face上所做的工作為HeadOn的大部分能力提供了框架,但Face2Face只能實現面部表情的轉換,HeadOn增加了身體運動和頭部運動的遷移。

在論文中,作者進一步介紹了HeadOn,這是一個用普通RGB-D相機錄製的人像視頻的重演(reenactment)系統。該系統通過不僅控制面部表情的變化,而且重演了頭部、上身的擺動和眼睛注視的方向,克服了當前的面部重演方法的局限性。也就是說,重演了視頻中的整個人體

HeadOn技術的圖示

這個方法的核心是將對變形代理的精確跟蹤與基於視圖的紋理相結合,進行基於視頻的重新渲染。

為了實現這一目標,研究人員提出了一種新方法,可以快速、自動地從一個簡短的RGB-D初始化序列中構建人的頭部和軀幹的幾何代理(proxy)。這個虛擬形象具有完整頭部的參數化3D模型,使用混合形狀進行表情控制,並與個性化的上身模型集成。

自動合成一個上半身模型

一種新的實時重現算法利用這個代理來真實地映射面部表情和眼睛注視,以及捕獲的源參與者對目標參與者的頭部動作和身體動作。

為此,研究人員提出一種新的基於視頻的渲染方法,合成重新映射的目標人像視頻。

部分結果

總結而言,這個研究的貢獻如下:

快速自動構建個性化的幾何代理,嵌入參數化的人臉、眼睛、整個頭部和上半身模型;

提出一種逼真的、基於視圖的、與姿勢相關的紋理和合成方法;

對source actor的穩健的跟蹤方法;

以及實時source-to-target 重演的完整人像視頻。

視頻演示甚至有些令人毛骨悚然,你幾乎立即可以想到壞人會利用這種技術做出什麼可怕的事情。試想一下,視頻通話中的人有可能是假冒的,這太可怕了!

但是,任何技術都有可能用於邪惡目的,只要開發者能以某種方式使輸出可以檢測,那麼至少可以防止AI被濫用。值得一提的是,這個AI的積極應用有很多。正如研究人員所說:

儘管當前的面部重現技術效果令人印象深刻,但它們在操控類型上仍然存在著根本性的限制。例如,這些方法只能修改面部表情,但頭部的姿態很僵硬,例如頭的方向一直是保持不變的,不會隨著輸入視頻而變。因此,這樣的技術能實現的只是細微的變化,例如張開嘴,或皺皺眉。

如果你曾使用Animoji或Bitmoji來聊天,你可能已經注意到這些表情看起來是多麼不自然——至少對我們這些看動畫片長大的人來說很不自然——說話時不會動腦袋和脖子,面部表情也只有那幾種。例如,當一個人皺眉時,通常會伴隨著低頭和耷拉肩。這些微妙的動作是我們身體語言的一部分,沒有身體動作,只有一個會說話的腦袋就顯得很奇怪。HeadOn修復了這個不和諧的問題,並通過將幾個先進的神經網絡結合在一起,產生了更為自然的結果。

局限:對長頭髮的人處理不怎麼好

這個系統當然還不是完美的;在高清解析度下進行測試,除了最遲鈍的觀眾之外,所有人都覺察到圖像被操縱了。而且,根據研究人員的說法,這個AI不怎麼會處理長頭髮的人,產生的輸出較為粗糙。但這些小問題未來可以解決。

這個「變臉」項目已經持續多年,未來,HeadOn這樣的AI欺騙人類的概率很可能會達到99%。


【加入社群】

新智元 AI 技術 + 產業社群招募中,歡迎對 AI 技術 + 產業落地感興趣的同學,加小助手微信號: aiera2015_3  入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名 - 公司 - 職位;專業群審核較嚴,敬請諒解)。

相關焦點

  • AI練就穿牆透視眼;還可判斷乘客是否醉酒|一周AI新聞
    進展 | 換臉 AI 升級 表情、動作、視線方向都能實時遷移「該技術的局限在於對長頭髮的處理較為粗糙。」「變臉」技術已經不新奇,來自德國慕尼黑工業大學、史丹福大學等的一組研究人員最近開發了一個叫「HeadOn」的 AI,它可以「變人」——根據輸入人物的動作,實時地改變視頻中人物的面部表情、眼球運動和身體動作,使得圖像中的人看起來像是真的在說話和移動一樣。
  • 範冰冰新片被AI換臉後,這技術又被用來搞黃色了……
    此前大俠也跟大家說過幾種AI換臉的技術。比如Face2Face,可以控制屏幕中人物面部的所有動作。以下是三個方向上旋轉到最大角度生成的圖片。英偉達的這種技術即使在面部轉動幅度較大時,人臉也不會扭曲變形。
  • 光是螞蟻呀嘿還不夠,AI Studio帶你玩轉「照片活化」等視頻特效
    因為有些同學不只想做「螞蟻呀嘿」,還想自己錄製面部動作,生成任意題材的花樣視頻,甚至是開發Avatarify這樣的App或小程序,走上「致富之路」,而這通過飛槳也都能實現。飛槳已將螞蟻呀嘿的核心技術開源於PaddleGAN套件中,在AI Studio平臺實現了完整的在線項目【PaddleGAN表情動作遷移進階版】,大家可以根據需要,使用AI Studio的免費算力,實現更多腦洞大開的動作遷移效果!
  • 那麼AI換臉術怎麼解釋?
    目前來說,針對人臉的深度偽造主要包括以下四種形式(假設我們有A和B兩個人臉圖像): 換臉(Face Swapping),主要是指新生成的圖像同時具有A(或者B)的面部身份信息和B(或者A)的臉部屬性信息(如發色、表情、姿態等)。
  • 用AI換臉搞黃色 ,竟然還火爆了P站
    不僅畫面離譜,而且臉部表情還很真實,表情、動作、整體形態,仿佛就是真人真事。然而,事情並不是像我們想的一樣,這其實是有人通過 AI 換臉,搞得惡作劇。甚至連上面的動態圖,都是通過換臉做的片段而已,完全被擺了一道。
  • 鹿晗都有AI粉了,為什麼AI換臉劇的效果還這麼渣?
    但呈現出的效果差強人意,角色換臉後的五官明顯大於常人,表情生硬,臉部邊緣還出現了模糊、扭曲的情況。 「片方想要挽回『劣跡藝人』造成的損失可以理解,但是處理方式過於低劣。如果選擇AI換臉,至少也要達到之前B站up主『換臉哥』混剪的效果,結果呈現出來的是美圖秀秀的水平,面部扭曲、表情生硬、脖子和頭顏色完全分離。」在影視行業工作6年的陳傾對燃財經表示。
  • 使用Fast.ai和OpenCV進行視頻面部表情和意識檢測
    從實時視頻或視頻文件中檢測面部表情和意識。背後的靈感是什麼?通過網絡攝像頭看著我,但被深度學習所取代實時視頻分類器演示介紹本教程的目標?使用fast.ai庫訓練面部表情分類模型,從您的網絡攝像頭或視頻文件中讀取面部表情,最後添加面部標記以跟蹤您的眼睛以確定意識!在進行該項目時,面臨的一大挑戰是弄清楚如何使用經過訓練的分類器,使其能夠有效地用於實時視頻和視頻文件。第一步是用卷積神經網絡訓練圖像分類模型。
  • AI換臉後毫無違和感
    (相關素材均源自微博網友@慢三與偏見)視頻中徐老師的表情自然,且恰到好處,流暢感非普通鬼畜作品可及。這是和滅霸的對視,大仇的恨意與報仇的快意都在深邃的眼神裡了:不過我們的聖誕老人自然沒有去客串復仇者聯盟,這都是網友利用「AI換臉」技術惡搞出的結果。我知道,你已經忘了原版什麼樣了:這是原版
  • 一文讀懂AI換臉:鄭爽被封殺,AI能挽救製片人嗎?
    有無辦法既能讓劣跡藝人不再出現,但依然能保留住其他工作人員的勞動成果呢?AI換臉技術在影視劇的第一次救急,是「三千鴉殺」。因為演員劉露被封殺,製片方被迫採用AI換臉技術,將她的臉替換掉。儘管最後的換臉效果讓人大跌眼鏡,膚色不匹配,表情尷尬,到處都是槽點。「三千鴉殺」這種劇,後期手動換臉的成本每分鐘要十幾萬,而AI換臉只有十分之一不到,但製作方處理的實在有點糙,但是AI只能做到這種程度嗎?
  • 戴口罩也能識別面部表情?康奈爾研發耳機表情識別系統
    通常,面部識別技術基於攝像頭和計算機視覺算法,為了提升面部識別準確性,可能還會採用3D攝像頭或是多顆攝像頭陣列。但現在面臨的問題是,攝像頭方案需要檢測到完整的面部五官,在公共場合你也不得不摘掉口罩才能人臉識別,尤其是要用面部識別解鎖手機會比較麻煩。而在VR中,實時面部表情追蹤也會需要多顆攝像頭,缺點是硬體成本高、體積大。
  • 微軟北大提出AI換臉工具和假臉檢測工具
    研究人員表示,與多個現行基線方法相比,這兩種方法都能在不犧牲性能的情況下取得業界領先的結果,而且所需的數據比以前的方法少得多。利矛:高保真度換臉工具FaceShifte這個新工具採用兩層框架結構。過去換臉應用的主要困難在於提取面部特徵,然後將兩張圖的特徵和屬性組合在一張圖中,最近基於GAN的工作取得了明顯進步,但仍然在合成高精度、真實圖像結果上面臨挑戰。研究人員提出了一個新的兩部分架構,稱為FaceShifter,可以實現高精度和遮擋條件下的換臉。第一部分通過充分,自適應對目標屬性進行挖掘和集成,生成高清換臉圖片。
  • 實時動作捕捉將HQ Trivia的主持人替換成樂高人物
    樂高Scott完全按照Rogowsky的知名方式與玩家互動,而且他還評論了自己的塑料化外形,並且實時響應了玩家要他做出特定面部表情和動作的要求。「我們得到了許多反饋,」Rogowsky評價道。「他們愛《樂高大電影》,他們愛樂高Scott。我們在這裡做到的效果真是讓人大開眼界。」Rogowsky迷你人物是由一部iPhone X和一套動作捕捉服驅動的。
  • 如今AI換臉技術這麼普遍使用,演員還用不用演戲了?
    臉是怎麼換的目前應用最廣泛的AI換臉模型是Deepfake。以楊冪朱茵換臉為例,Deepfake通過深度學習二人面部各個角度的大量照片,實現分別識別、還原兩人面部。機器B學習朱茵的表情,即動起來的時候五官肌肉的位置和動作路徑。Deepfake換臉步驟,圖片來自網絡,侵刪機器A學到的楊冪五官,根據朱茵左右眼、鼻尖和嘴角的特徵關鍵點進行定位,調整到水平對齊替換、縮放到大小相似後,替換到朱茵臉上,用機器B輸出,這樣就得到了有朱茵表情的楊冪臉。
  • 多模、AI 齊上陣,Deepfake 換臉術剋星駕到!
    去年4月初,我國網名叫「換臉哥的極客」將朱茵在94版射鵰中的黃蓉換成了楊冪,整段視頻毫無違和感,這也讓國人初次體會到了AI換臉的威力。後來一款名叫 ZAO 的 App 橫空出世,在直播平臺上主播們利用實時換臉技術,可以將自己換成某些一線明星來吸引眼球,火爆一時。
  • 2020年AI圈十大熱議焦點:演員換臉、AI找對象、去馬賽克
    回顧2020年AI圈十大熱議焦點,或許能為AI接下來的發展方向提供些許的借鑑意義。 一、限制AI出口:中美新規均限制AI技術出口 人工智慧「出息」了!
  • 利用 DeepFaceLab 實現 AI 換臉
    AI 換臉簡介前文視頻用了 AI 換臉技術。AI 換臉是一種利用深度學習實現視頻換臉的技術,在特定場合下可以做出非常逼真自然的換臉視頻。今年 8 月30 日,「僅需一張照片,出演天下好戲」的ZAO app 上線後,迅速刷屏朋友圈,其技術原理也如出一轍。ZAO 是基於 DeepFake 算法演變出來的一種產品。
  • 愛情公寓:本以為張偉版閃靈是AI換臉,有誰注意額頭細節,懵了
    一開始愛情公寓全員張偉臉的確是通過ai換臉展現出來的,但是看到張偉版的閃靈之後,卻讓網友們懵了。小黑髮明了顏值平均眼鏡,把眼鏡分發給了愛情公寓裡的所有小夥伴,每個人戴上看到的人都是張偉,還以為這種手段是ai換臉,但是當咖喱醬戴著顏值平均眼鏡看恐怖片閃靈時,卻讓網友們懵了。
  • 升級版「回家的誘惑」,AI換臉加狗血劇情,又一次眼瞎了
    有的能順利播出,而有的只能像這部一樣,緩緩、緩緩……就緩撲了……時隔四年,《好妻子》終於播了(撲了)!這劇情老套到人人都可以當編劇了,李家瑜(姚芊羽扮演)是好妻子,老公賀浩澤(李泰扮演)和李家瑜的閨蜜周心妍(換臉後是周昱彤扮演)有一腿,倆人偷偷摸摸好些年。
  • Light Stage: 無限真實的人臉三維掃描——忘記幼稚的AI換臉吧
    從背影和走路姿態看得出,身體仍然是韓彩英的,而正臉已經通過AI換臉技術替換成了蘇青,就是那個《延禧攻略》中演喜塔臘·爾晴的美女。我是面部捕捉最嚴厲的批評者之一,就連我也不得不承認,這些傢伙都做到了。這是第一個完全繞過我所有潛意識警告的虛擬人類動畫序列。我感覺到了艾米麗作為一個人的感覺。所有的細微之處都在那裡。這不是炒作,這是真的……我正式宣布,Image Metrics終於架起了一座橫跨詭異山谷的橋梁,把我們帶到了另一邊。」