臺灣清華大學與Facebook再度攻破3D照片技術

2020-12-15 青亭網

更新:網友Alegriabaile指正「最新的3d照片與原來的主要區別是,原來的是根據蘋果人像模式RGB-D進行三維全景圖生成,重點在深度圖的全局一致性變形,當時Facebook發布的只是用到了裡面較簡陋的內容生成方法;最新的這個和19年的practical 3d photography更像,拍攝單幅RGB顏色圖片,利用深度學習得到深度圖(這個時候才有RGBD),後面重點進行內容生成。」

有關於2D圖像轉3D圖片,或轉移3D模型相關技術,我們報導過多項研究,其中關於3D圖片和3D拍照涉及最多的就是Facebook,與此同時包括谷歌、微軟、NVIDIA也已公布都在研究2D圖像到三維模型(3D模型)之間的訓練模型。

可以肯定的是,在很長一段時間內,這種將2D圖像轉變3D效果或生成三維模型的AI技術將發揮巨大作用,例如應用到電子商務平臺,遊戲,影視劇,大眾娛樂應用等領域有著極大價值。

目前,在2D圖像轉3D照片,以及3D照片拍攝相關方面,Facebook已經提出初步構建了一套已有的拍攝方案,並在不斷完善中。

而近期,維吉尼亞理工學院暨州立大學、臺灣清華大學、Facebook再次公布一項有關3D拍照的AI技術論文,本研究著重改善了現有3D拍照中模糊和不連續性等問題。

Facebook 3D拍照/3D圖片技術

在講述新的研究之前,我們先來回顧一下Facebook現有的3D拍照和3D圖像的研究成果。

2018年5月份的F8開發者大會上,Facebook公布3D照片研究,其將嵌入Facebook信息流中,行動裝置可通過左右晃動呈現3D景深效果,而PC端則可通過滑鼠拖拽觀看立體效果,且僅支持擁有「人像模式」的iPhone設備。

實際上,這項技術初衷是為了讓用戶更輕鬆的創建出3D圖片或其他3D內容,並且讓大家可以通過自己的手機完成。

當時Facebook給出的方案是,通過雙攝手機拍攝同一圖像並計算深度信息,然後進行深度信息解碼,再結合單一攝像頭拍攝多張圖像,通過雙組數據對比推算出圖片中不同深度數據,將圖像進行分層從而實現三維拍攝的目的。

2020年2月,又公布了一項可以讓2D照片轉3D效果技術,而方法適用於單攝像頭手機,完全基於AI技術實現,從而實現功能的互補,意味著幾乎主流的智慧型手機全部支持Facebook 3D照片。

相比來看,這就是一套完全基於2D照片來實現模擬3D效果的升級版,其通過單目數據結合CNN模型,對算法要求更高,並且也需要前期進行大量數據實驗積累,實現了在行動裝置上快速處理,這對今後普及3D照片,甚至3D內容理解、環境感知等領域方面有極大的幫助。

新方法:單張RGB-D轉換3D照片

雖然說上述兩個研究已經很出色的完成了消費級場景的應用需求,但是為了滿足未來潛在且廣泛的3D照片需求,維吉尼亞理工學院暨州立大學、臺灣清華大學、Facebook近期公布了一項基於單目RGB-D圖像完成3D照片轉換。

簡單來說,這是一項將多個圖層圖像合作的新穎方法,甚至可以還原出原圖中被遮擋的部分物體和顏色。其中比較關鍵的一個就是引入「圖像修復模型」,該模型採用上下分層內容感知形式,來填充缺失部分的顏色和內容等細節。

與此同時,通過此方法生成的3D照片可以通過標準圖形引擎的運動視差來展示。最終結果就是,3D照片的效果極為出色。

不同方法對比:a,圖像缺失、扭曲;b,圖像邊緣拉伸;Facebook 3D照片效果;4,本方法最終效果

圖像預處理過程:a-b,顏色和深度輸入;c-d,使用雙邊濾波銳化;e,基於視差值檢測不連續性;f,消除虛假差值,優化圖像邊緣深度

圖像前後感知處理過程:LDI繪圖算法、合成區域(紅色)、合成區域寬度5個像素寬

通過上述對比圖來看,我們原有的3D圖像或者存在圖像缺失、或者邊緣拉伸情況,而Facebook 3D照片也存在邊緣模糊。

我們再來通過視頻了解一下,該方法應用在最常見的家庭照片的效果。

上面的視頻是多種不同方法之間的對比。

另外,我們再來看2.5D視差、舊照片和Dolly Zoom場景的效果圖:

Dolly Zoom效果圖

2.5D視差效果圖

舊照片的效果圖

根據論文自身的說法,在日常場景的照片中,本方法和高性能3D拍攝技術效果基本接近。

3D照片就是未來?

當然,本方法也有它的局限性,那就是它要求的是RGB-D圖像,必須要求帶有深度信息。回過頭來看,也就是和Facebook最初發布的3D照片類似,需要雙攝版iPhone機型,而安卓設備目前還不確定。不過,多攝像頭機型越來越普遍,而且實現3D拍照的方法也越來越多,這點基本不用擔心。

前面我們解釋過,Facebook在3D照片方便已經耕耘許久,這背後的原因又是什麼?

3D攝像技術絕對是一種新穎且能帶來更有趣的展現效果,相比常規的2D照片要更有趣。但是,以往想要進行3D拍攝只能通過專業的攝像機,或全景相機,雖然消費級全景相機已經價格較低,但目前仍未達到普及的程度。

而我們又知道,Facebook絕對是AR/VR領域資深玩家,甚至此前還推出過 Surround360全景相機平臺,其宣稱世界上首個3D和全景視頻拍攝端到端解決方案。但是, Surround360計劃在2018年之後就很少被提及,甚至與RED合作的全景相機RED Manifold此後聲音也越來越小。

其中一方面是目前全景拍攝需求相對小眾,即便是消費級全景相機普及率也非常低;另一方面大眾媒介直接從2D跳轉到三維還需要一個過渡。

很顯然,直接利用好大家手中的手機就是一個非常聰明的選擇。這時,相信你已看出Facebook早已開始在AR/VR已經未來各種不同場景進行布局和探索嘗試。

通過上面的預覽效果圖來看,可實現多種形態的3D照片模式,可以預想到的是,該技術可直接應用到手機圖片處理App中,甚至應用到短視頻製作App等等場景,而Facebook自身(包括旗下平臺)就是一個圖像、視頻分享的平臺,顯然這對於之後的業務拓展也十分有利。

至於未來3D照片是否能夠大範圍普及,顯然還是未知數,但可以肯定的是這些技術和過程的探索無疑對未來AR/VR/全息時代三維信息產生、交互擁有重大意義。

相關焦點

  • Facebook 又出黑科技,手機照片一鍵切成 3D 大片
    可能不少人都想過,假如出現一種黑科技,讓我們拍攝的平面 2D 照片變成立體的 3D 照片......Facebook 也早就想到了這個問題。為改善用戶體驗,2018 年,Facebook 就推出了 3D 照片功能。這是一種全新的沉浸式格式,你可以用它與朋友、家人分享照片。但是,這項功能依賴於高端智慧型手機才具備的雙鏡頭「肖像模式」功能,無法在尋常的行動裝置上使用。
  • 北京的清華大學與臺灣的清華大學哪個更厲害?實力相差懸殊!
    在祖國的另一片土地上,還有一所清華大學,跟我們熟知的清華大學同出清華學堂,在1949年國共「分家」,清華本部留北京,一部分被國民黨帶到臺灣復建了清華大學,被稱為臺灣清華大學或者清華大學(新竹)。這兩所清華大學,實力都很強,坐落於北京的清華大學位列中國大陸前2名,世界排名前20;坐落於臺灣的清華大學,在臺灣排名前2名,世界排名,前200名內。
  • 臺灣的清華大學和大陸的清華大學,有何淵源,哪個更好?
    臺灣清華和大陸清華系出同門,相當於一家人在戰爭中走散。留下的這一支成了大陸清華。遠走臺灣的就成了臺灣清華。到現在兩所學校的校訓都是一樣的:自強不息,厚德載物。 1911年4月29日是兩岸清華大學共同的校慶日。也是清華學堂正式開學的日子。1937年,清華大學、北京大學、南開大學一同南遷成立了西南聯合大學。
  • 2020年臺灣最好大學排行榜:臺灣清華大學第二,交通大學第三!
    寶島臺灣與祖國命運相連,臺灣的很多大學也是與祖國大陸息息相關,比如清華大學,中央大學,交通大學,都是蔣介石從大陸撤離時帶走的。那麼,這些大學,現在怎麼樣?在臺灣的排名怎麼樣?第二名:臺灣清華大學臺灣清華大學,也稱清華大學(新竹),為中國頂尖級研究型大學之一,是解放戰爭後,清華大學一分為二,國民黨帶到臺灣,復校清華大學。新竹清華大學與北京清華大學更有「一筆寫不出兩個清華」的說法。
  • 國內知名頂級大學,清華大學和臺灣大學
    清華大學和臺灣大學兩所學校都屬於國內知名大學,相對來講國人更熟悉清華大學,而不太了解臺灣大學,事實上就是位於臺灣省臺北市的一所綜合性大學。臺灣大學整體實力較強,但是相對清華大學來講,還是弱了一些,畢竟清華大學項目引進和師資力量方面要更強一些。
  • 清華大學於頂刊《科學》發表金屬3D列印中匙孔氣泡缺陷的起源
    l 點擊文中出現的紅色字體打開延伸閱讀 ll 歡迎在文後留言申請長期轉載授權  l根據清華大學1,11月27日,清華大學機械工程系助理教授趙滄與卡內基梅隆大學和維吉尼亞大學的學者合作發布了關於金屬雷射3D列印的最新成果。該項研究起於宏觀工藝,立於微觀細節。
  • 臺灣清華大學前校長劉炯朗逝世,系知名計算機科學家
    臺灣清華大學前校長劉炯朗逝世,系知名計算機科學家 澎湃新聞記者 鍾煜豪 2020-11-09 22:29 來源:澎湃新聞
  • 臺灣「最美雙胞胎」長大了!同時被清華大學錄取,如今過得怎麼樣
    今天要說的這對雙胞胎在十幾年前火遍了全國,她們就是號稱臺灣「最美雙胞胎」的sandy(姐姐)與mandy(妹妹),在2003年,這對雙胞胎的照片被父母上傳到網上,並迅速積累了一大批粉絲,許多網友紛紛被這麼可愛的姐妹花吸粉。
  • @Python 程式設計師,如何實現狂拽酷炫的 3D 編程技術?
    grid3d_width=200,     grid3d_depth=80,    xaxis_label_textcolor='#fff',    is_grid3d_rotate=True,    legend_pos='right')bar3d = Bar3D('全年產量情況',**style.init_style)bar3d.add
  • 我是清華大學的!一群希望被誤認為北京清華大學的學生
    但是短短幾十年的時間,兩所學校的學生的處境,發生了天翻地覆的變化,也恰好說明了大陸和臺灣在很多方面的此消彼長。在改革開放初期的時候,大陸的清華大學的學生素質沒有臺灣高,學生的能力水平和臺灣的清華大學沒有辦法比。所以,在海外工作和學習的時候,臺灣的清華大學學生不願意讓大陸的清華大學的校友和他們相提並論。
  • 臺灣為何有一個清華大學?這裡沒老蔣嘛事,是美國「施捨」的
    但是,在清華大學的建史上曾有過三個階段,即:北京的清華大學、西南聯大、臺灣的清華大學(新竹)。西南聯大作為清華大學的一個階段,是因為抗戰爆發而搬遷的,其基礎都是原在北京的清華大學,這個很好理解。但是臺灣的清華大學是怎麼回事,你知道多少?
  • 臺灣新竹也有一座清華大學,它和北京的清華大學有什麼關係呢?
    他現在肯定都知道,我們國家非常著名的一個學府清華大學,相信對於清華大學的校訓,肯定有很多人根本就不知道校訓是什麼,畢竟除了真的考入清華大學的學生,一般人都不會刻意的去查看這些內容吧。但其實清華大學的校訓是非常的簡單的,他們的校訓就是自強不息,厚德載物,相信大家在聽到這樣的一個消息的時候,肯定就覺得肯定是對於這樣的一些名詞都是非常的熟悉的,但其實在我們國家的臺灣這樣的一個地方,擁有著一所大學,竟然是和我們北京的清華大學的校訓是一模一樣的,不僅如此,就連這個地方的校名相對來說也是沒有任何的差距的。
  • Facebook 開源 3D 深度學習函數庫 PyTorch3D,也可用於二維場景
    不過即便有豐富深度學習技術積累的 Facebook,在面對 3D 的深度學習問題時依然會被困擾。Facebook 表示,之所以深度學習技術較少用於 3D 場景,是因為缺乏足夠的工具和資源來支撐神經網絡與 3D 數據結合使用的複雜性,這種場景要求更多的內存與更高的算力,不像 2D 圖像可以使用張量表示,而且許多傳統圖形運算符不可微分,因此 3D 深度學習技術的研究受到了限制。
  • 臺灣清華大學成立「臺北政經學院」參酌倫敦政經學院模式
    臺北政經學院的成立得到臺灣企業家林陳海先生捐款臺幣30億支持,財務自主,將可突破公立大學的經費限制,延聘全球一流師資,培育頂尖政經人才。一手催生臺北政經學院的黃煌雄董事長指出,臺北政經學院由私人捐助,但在清華內以「校中校」的模式運作,將成為臺灣高等教育的一項創舉。臺灣教育部門負責人潘文忠今天也出席了籤約典禮。
  • 「國立」清華大學
    「國立」清華大學 時間:2001-04-09 17:18   來源: 「國立」清華大學「國立」清華大學人文社會學院中國文學(系)研究所 「國立」清華大學人文社會學院外國語文學(系)研究所 「國立」清華大學人文社會學院經濟學
  • 臺灣MiiCraft新推大型通用DLP 3D印表機
    幾年前,臺灣的光學元件製造商揚明光學決定進入3D列印領域,為此該公司成立了一家專業的子公司MiiCraft,生產出了號稱世界最小的DLP桌面3D印表機MiiCraft+。如今該公司推出了其新一代的DLP 3D印表機MiiCraft 125,這是一款大型的通用設備,MiiCraft公司稱其最適合牙科和珠寶行業的客戶使用。
  • 3D列印技術發展到哪裡了?網友:造車建房不費吹灰之力
    3d列印是快速成型技術的一種,有通過3d列印建造房屋,現在又有了catia和3d製造工具兩種3d列印軟體,設計建造的精度高達千分之一,可列印各種形狀的東西,降低了成本,使建造變得更容易。特別是在很多尖端領域的企業使用。
  • 姚人多請辭海基會秘書長一職 回臺灣清華大學任教
    臺灣海基會副董事長兼秘書長姚人多今(4日)請辭。(圖片來源:臺灣「中時電子報」) 中國臺灣網5月4日訊 據臺灣「中時電子報」報導,蔡英文將於5月20日後展開第二任期。隨著就職時間逼近,蔡英文辦公室和臺灣行政主管部門是否改組,引發討論。
  • 清華大學-浦發銀行數字金融技術聯合研究中心成立
    清華新聞網8月14電8月7日,清華大學-浦發銀行數字金融技術聯合研究中心(以下簡稱「聯合研究中心」)成立儀式舉行。儀式前,清華大學校長邱勇會見了浦發銀行行長潘衛東,就進一步加強雙方合作交流意見。隨後,清華大學副校長尤政和潘衛東共同為聯合研究中心揭牌。
  • Ladag Gaga浮誇造型亮相VMA 禮服竟是3D列印技術!
    近幾年3d列印技術飛速發展,與普通的列印或是剪裁不同,3d列印技術能夠製造出更多立體的、複雜且高難度的造型,深受眾多明星與時尚達人的青睞。早在2017年愛奇藝尖叫之夜上範冰冰就穿曾著一身3d列印的禮服,華而不豔的3D透視禮服,可謂是開創了國內女星的歷史先河。