臺灣清華大學與Facebook再度攻破3D照片技術

2020-12-22 青亭網

更新:網友Alegriabaile指正「最新的3d照片與原來的主要區別是,原來的是根據蘋果人像模式RGB-D進行三維全景圖生成,重點在深度圖的全局一致性變形,當時Facebook發布的只是用到了裡面較簡陋的內容生成方法;最新的這個和19年的practical 3d photography更像,拍攝單幅RGB顏色圖片,利用深度學習得到深度圖(這個時候才有RGBD),後面重點進行內容生成。」

有關於2D圖像轉3D圖片,或轉移3D模型相關技術,我們報導過多項研究,其中關於3D圖片和3D拍照涉及最多的就是Facebook,與此同時包括谷歌、微軟、NVIDIA也已公布都在研究2D圖像到三維模型(3D模型)之間的訓練模型。

可以肯定的是,在很長一段時間內,這種將2D圖像轉變3D效果或生成三維模型的AI技術將發揮巨大作用,例如應用到電子商務平臺,遊戲,影視劇,大眾娛樂應用等領域有著極大價值。

目前,在2D圖像轉3D照片,以及3D照片拍攝相關方面,Facebook已經提出初步構建了一套已有的拍攝方案,並在不斷完善中。

而近期,維吉尼亞理工學院暨州立大學、臺灣清華大學、Facebook再次公布一項有關3D拍照的AI技術論文,本研究著重改善了現有3D拍照中模糊和不連續性等問題。

Facebook 3D拍照/3D圖片技術

在講述新的研究之前,我們先來回顧一下Facebook現有的3D拍照和3D圖像的研究成果。

2018年5月份的F8開發者大會上,Facebook公布3D照片研究,其將嵌入Facebook信息流中,行動裝置可通過左右晃動呈現3D景深效果,而PC端則可通過滑鼠拖拽觀看立體效果,且僅支持擁有「人像模式」的iPhone設備。

實際上,這項技術初衷是為了讓用戶更輕鬆的創建出3D圖片或其他3D內容,並且讓大家可以通過自己的手機完成。

當時Facebook給出的方案是,通過雙攝手機拍攝同一圖像並計算深度信息,然後進行深度信息解碼,再結合單一攝像頭拍攝多張圖像,通過雙組數據對比推算出圖片中不同深度數據,將圖像進行分層從而實現三維拍攝的目的。

2020年2月,又公布了一項可以讓2D照片轉3D效果技術,而方法適用於單攝像頭手機,完全基於AI技術實現,從而實現功能的互補,意味著幾乎主流的智慧型手機全部支持Facebook 3D照片。

相比來看,這就是一套完全基於2D照片來實現模擬3D效果的升級版,其通過單目數據結合CNN模型,對算法要求更高,並且也需要前期進行大量數據實驗積累,實現了在行動裝置上快速處理,這對今後普及3D照片,甚至3D內容理解、環境感知等領域方面有極大的幫助。

新方法:單張RGB-D轉換3D照片

雖然說上述兩個研究已經很出色的完成了消費級場景的應用需求,但是為了滿足未來潛在且廣泛的3D照片需求,維吉尼亞理工學院暨州立大學、臺灣清華大學、Facebook近期公布了一項基於單目RGB-D圖像完成3D照片轉換。

簡單來說,這是一項將多個圖層圖像合作的新穎方法,甚至可以還原出原圖中被遮擋的部分物體和顏色。其中比較關鍵的一個就是引入「圖像修復模型」,該模型採用上下分層內容感知形式,來填充缺失部分的顏色和內容等細節。

與此同時,通過此方法生成的3D照片可以通過標準圖形引擎的運動視差來展示。最終結果就是,3D照片的效果極為出色。

不同方法對比:a,圖像缺失、扭曲;b,圖像邊緣拉伸;Facebook 3D照片效果;4,本方法最終效果

圖像預處理過程:a-b,顏色和深度輸入;c-d,使用雙邊濾波銳化;e,基於視差值檢測不連續性;f,消除虛假差值,優化圖像邊緣深度

圖像前後感知處理過程:LDI繪圖算法、合成區域(紅色)、合成區域寬度5個像素寬

通過上述對比圖來看,我們原有的3D圖像或者存在圖像缺失、或者邊緣拉伸情況,而Facebook 3D照片也存在邊緣模糊。

我們再來通過視頻了解一下,該方法應用在最常見的家庭照片的效果。

上面的視頻是多種不同方法之間的對比。

另外,我們再來看2.5D視差、舊照片和Dolly Zoom場景的效果圖:

Dolly Zoom效果圖

2.5D視差效果圖

舊照片的效果圖

根據論文自身的說法,在日常場景的照片中,本方法和高性能3D拍攝技術效果基本接近。

3D照片就是未來?

當然,本方法也有它的局限性,那就是它要求的是RGB-D圖像,必須要求帶有深度信息。回過頭來看,也就是和Facebook最初發布的3D照片類似,需要雙攝版iPhone機型,而安卓設備目前還不確定。不過,多攝像頭機型越來越普遍,而且實現3D拍照的方法也越來越多,這點基本不用擔心。

前面我們解釋過,Facebook在3D照片方便已經耕耘許久,這背後的原因又是什麼?

3D攝像技術絕對是一種新穎且能帶來更有趣的展現效果,相比常規的2D照片要更有趣。但是,以往想要進行3D拍攝只能通過專業的攝像機,或全景相機,雖然消費級全景相機已經價格較低,但目前仍未達到普及的程度。

而我們又知道,Facebook絕對是AR/VR領域資深玩家,甚至此前還推出過 Surround360全景相機平臺,其宣稱世界上首個3D和全景視頻拍攝端到端解決方案。但是, Surround360計劃在2018年之後就很少被提及,甚至與RED合作的全景相機RED Manifold此後聲音也越來越小。

其中一方面是目前全景拍攝需求相對小眾,即便是消費級全景相機普及率也非常低;另一方面大眾媒介直接從2D跳轉到三維還需要一個過渡。

很顯然,直接利用好大家手中的手機就是一個非常聰明的選擇。這時,相信你已看出Facebook早已開始在AR/VR已經未來各種不同場景進行布局和探索嘗試。

通過上面的預覽效果圖來看,可實現多種形態的3D照片模式,可以預想到的是,該技術可直接應用到手機圖片處理App中,甚至應用到短視頻製作App等等場景,而Facebook自身(包括旗下平臺)就是一個圖像、視頻分享的平臺,顯然這對於之後的業務拓展也十分有利。

至於未來3D照片是否能夠大範圍普及,顯然還是未知數,但可以肯定的是這些技術和過程的探索無疑對未來AR/VR/全息時代三維信息產生、交互擁有重大意義。

相關焦點

  • Facebook 又出黑科技,手機照片一鍵切成 3D 大片
    可能不少人都想過,假如出現一種黑科技,讓我們拍攝的平面 2D 照片變成立體的 3D 照片......Facebook 也早就想到了這個問題。為改善用戶體驗,2018 年,Facebook 就推出了 3D 照片功能。這是一種全新的沉浸式格式,你可以用它與朋友、家人分享照片。
  • Facebook 新研究:使用CNN將任何2D照片轉換為3D
    Facebook 的 3D 照片功能 於 2018 年推出,是一種全新的、沉浸式的照片格式,用於與朋友和家人分享照片。不過,在當時,這一功能依賴於只有新款高端智慧型手機才有的雙鏡頭「肖像模式」功能。因此,這一功能無法在只有一個後置鏡頭的典型行動裝置上使用。
  • 用iPhone一秒拍攝3D照片,Facebook這項技術厲害了
    這聽起來是在描述高大上的光場視頻,而不是通常的2D拍照技術,是吧?今年5月,Facebook介紹了3D照片技術,今天Facebook正式將其3D照片功能帶到了iPhone手機上。其實,不少巨頭都在研發計算圖像深度的技術,不過目前他們都只是應用在人像模式中,用以虛化背景。然而,Facebook的技術路徑卻是從VR開始的。
  • Facebook F8講到的3D照片是怎麼一回事?
    根據青亭網之前的報導,Facebook 3D照片可直接嵌入新聞流中,就像傳統2D圖片一樣。而3D照片則可以通過左右傾斜手機實現3D視角的變化,而這種格式的照片適合拍攝人物、動物、風景、全景等多種場景。3D照片和我們常見的3D控制項並不完全一樣,3D控制項可以實現360度各個角度的觀看,而這種3D照片僅能實現單個角度以微小幅度查看周圍的場景。
  • 馬賽克技術在AI面前會被攻破嗎?
    人們收看電視經常會看見一些法制節目中犯罪嫌疑人臉部被打碼,也就是所謂的馬賽克技術,它是一種常見圖像與視頻的處理手段。可以將關鍵信息部位色階細節劣化造成模糊效果,從而達到無法辨認的效果。如今隨著人工智慧的發展,AI技術也被用於方方面面的領域,對於一些老照片可以進行細節修復,黑白照片可以還原成彩色照,甚至也可以將靜態圖片變為動態。而最近AI技術在處理視頻照片方面又有了重大突破,一款名為Depix的項目由於能解碼被打上馬賽克文字而引起廣泛爭議讓馬賽克在AI面前都顯得不安全,但目前只適用於使用線性方框濾波器創建的像素化圖像。
  • 北京的清華大學與臺灣的清華大學哪個更厲害?實力相差懸殊!
    在祖國的另一片土地上,還有一所清華大學,跟我們熟知的清華大學同出清華學堂,在1949年國共「分家」,清華本部留北京,一部分被國民黨帶到臺灣復建了清華大學,被稱為臺灣清華大學或者清華大學(新竹)。這兩所清華大學,實力都很強,坐落於北京的清華大學位列中國大陸前2名,世界排名前20;坐落於臺灣的清華大學,在臺灣排名前2名,世界排名,前200名內。
  • Facebook照片搜索技術揭秘
    我們每個人整理自己手機中存儲的海量照片尚且如此困難,對我們來說,要為所有人的照片定義一種更有序的分類方式無疑更是困難重重。每天,人們會將數十億張照片分享到Facebook,想想你自己向下滾屏查找幾天前發布的照片有多麻煩,如果要找幾個月甚至幾年前的照片呢?為了幫大家更容易找到自己的照片,Facebook照片搜索團隊使用機器學習技術深入了解照片內容,改善照片的搜索和獲取過程。
  • 增材製造其實就是我們俗稱的3d列印技術,是一種新興的製造技術
    增材製造其實就是我們俗稱的3d列印技術,是一種新興的製造技術,是一種建造可伸縮部件的單元製造技術。你問:3d列印耗材我怎麼選?我告訴你,多找幾家,兩眼一抹黑的話,再加一個硬碟就完事了。不過這個事情,似乎用玩遊戲裝載速度都是可以衡量的,或者考慮大型機本地緩存。幾年前3d列印剛興起時,3d列印技術還未普及,採用3d印表機列印的產品還屬於新型產品,價格昂貴,當時在消費者間受到質疑。
  • Facebook 開源 3D 深度學習函數庫 PyTorch3D
    不過即便有豐富深度學習技術積累的Facebook,在面對3D的深度學習問題時依然會被困擾。Facebook表示,之所以深度學習技術較少用於3D場景,是因為缺乏足夠的工具和資源來支撐神經網絡與3D數據結合使用的複雜性,這種場景要求更多的內存與更高的算力,不像2D圖像可以使用張量表示,而且許多傳統圖形運算符不可微分,因此3D深度學習技術的研究受到了限制。
  • 臺灣清華大學大二男生博客張貼上百男童裸照被捕
    臺灣清華大學大二男生博客張貼上百男童裸照被捕 2011年11月11日 13:30 來源:中國臺灣網 字號:  小  中  大 轉發
  • 增材製造其實就是我們俗稱的3d列印技術
    增材製造其實就是我們俗稱的3d列印技術,是以數字信息技術和機械製造技術為基礎,以產品的實體3d建模和列印技術為手段,以加工的自動化和裝配的一體化為特徵的,新型製造技術。主要有:雷射雕刻,可精確列印目標物體;熱塑性材料可進行可重複造型的製造,可燒結和擠出;3d列印製造技術可實現功能複雜的產品設計。用手工雕刻技術完成高精度建模3d列印製造技術,複雜產品的設計。
  • facebook養號之標記照片
    FaceBook養號是最近文章的主題,裡面有一個步驟非常重要,就是標記照片,除了自己標記自己,也可以別人來標記來。
  • 2020年臺灣最好大學排行榜:臺灣清華大學第二,交通大學第三!
    寶島臺灣與祖國命運相連,臺灣的很多大學也是與祖國大陸息息相關,比如清華大學,中央大學,交通大學,都是蔣介石從大陸撤離時帶走的。那麼,這些大學,現在怎麼樣?在臺灣的排名怎麼樣?第二名:臺灣清華大學臺灣清華大學,也稱清華大學(新竹),為中國頂尖級研究型大學之一,是解放戰爭後,清華大學一分為二,國民黨帶到臺灣,復校清華大學。新竹清華大學與北京清華大學更有「一筆寫不出兩個清華」的說法。
  • 臺灣最好的十所大學,臺灣大學、國立清華大學、成功大學位列前三
    臺灣最好的大學有哪些、排名情況怎樣是廣大考生和家長朋友們所關心的問題。根據最新QS世界大學排名榜單可以看出,2020年臺灣最好大學排名前3名是國立臺灣大學、國立清華大學、國立成功大學,以下是具體榜單,供大家參考。
  • 3D列印技術發展到哪裡了?網友:造車建房不費吹灰之力
    3d列印是快速成型技術的一種,有通過3d列印建造房屋,現在又有了catia和3d製造工具兩種3d列印軟體,設計建造的精度高達千分之一,可列印各種形狀的東西,降低了成本,使建造變得更容易。特別是在很多尖端領域的企業使用。
  • 不可思議看呆你:全息3D投影技術,這才是真正的黑科技
    3d全息投影     適合表現細節或內部結構較豐富的個體物品, 如名表、名車、珠寶、工業產品、也可表現人物、卡通等,給觀眾感覺是完全立體的。全新的投影技術——全息投影技術的出現,讓人們打破了這種阻隔,體驗了一把前所未有的視覺衝擊的快感。 3d全息投影系統原理    全息投影技術是利用幹涉和衍射原理記錄並再現物體真實的三維圖像的記錄和再現的技術。
  • 我是清華大學的!一群希望被誤認為北京清華大學的學生
    但是短短幾十年的時間,兩所學校的學生的處境,發生了天翻地覆的變化,也恰好說明了大陸和臺灣在很多方面的此消彼長。在改革開放初期的時候,大陸的清華大學的學生素質沒有臺灣高,學生的能力水平和臺灣的清華大學沒有辦法比。所以,在海外工作和學習的時候,臺灣的清華大學學生不願意讓大陸的清華大學的校友和他們相提並論。
  • 一篇推廣人看了都怕洩露的文章,Facebook技術流玩法
    他是技術出身,每次一講話,大家的話題都被他的說話聲音淹沒了,但是他這個人太實誠,實誠得來就被我叫了寫這個文章。然而下面這個文是他從leon身上有感而發。經過一段時間的思考和研究寫出來的。對於每個在背後努力研究東西並且喜歡分享的人 一個掌聲。如果你覺得大W邀請的座客文章很贊,提前謝謝你的轉發和支持。如果你想吐槽,請轉發後吐槽 ,這會讓我心安點。
  • 臺灣清華大學前校長劉炯朗逝世,系知名計算機科學家
    臺灣清華大學前校長劉炯朗逝世,系知名計算機科學家 澎湃新聞記者 鍾煜豪 2020-11-09 22:29 來源:澎湃新聞
  • 3D視界丨3D投影入侵美術館,每幅畫都「復活」了!
    3D全息投影技術已經不是新鮮概念了。利用幹涉和衍射原理以三維形式呈現物體,讓觀者無需佩戴眼鏡即可看到3D圖像,這種技術的使用讓很多場景都變得相當有趣,也已開始被應用到博物館中,正如本片中的例子。馬上加關注3D大賽官微ilove3dds,參與留言評論、即時獲取更多3D數位化技術資訊文章投稿請發送至manjf@3ddl.org,歡迎轉載,如需長期轉載請在文後評論區留言評論處大家可以補充文章解釋不對或欠缺的部分,這樣下一個看到的人會學到更多,你知道的正是大家需要的.