Google 是如何把 Pixel 5 上的人像光效做出來的?

2020-12-24 愛範兒

這一兩年來,計算攝影這個詞我們聽到太多次了。

提到計算攝影,自然而然的就會讓人想到 Google 的 Pxiel 系列手機,這個系列可以說是開創了計算攝影的先河,它為我們揭示了計算攝影的威力和魅力所在。

也正是因為計算攝影帶來的威力如此驚人,這兩年逐漸回過味的手機廠商們才終於一股腦扎了進去。而 Google 這時候已經在玩更多的花活了。

「人像光效」的最初是隨著今年十月份 Google 發布 Pixel 4a&Pixel 5 上,這一代 Pixel 獨佔的功能。但是在前幾天,Google 對相機和相冊應用進行了一次更新,將這個功能下放給了 Pixel 2 之後的用戶。

受到肖像攝影師使用的攝影燈啟發,「人像光效」能夠對光源進行重新定位和建模,然後將新的光源添加到照片的場景中去。並且還能夠識別初始照明的方向和強度,然後對照明情況自動進行補充。

這樣強悍的計算攝影功能自然離不開神經網絡的機器學習能力,通過手機人像光效模式所拍攝的照片作為資料庫進行訓練之後,「人像光效」的後期能力啟用了兩種新的算法:

自動添加合成光源:對於給定的人像照片,算法進行合成添加往外光源,並且將於現實中攝影師的打光照明相一致。合成後重新照明:對於給定的照明方向和人像照片,以最自然方式添加合成光。首先說第一個問題,就是確定光源位置和添加。在現實中,攝影師通常採用經驗和感性的方式,通過觀察光線落在被拍攝者臉上的強度和位置,然後去確定如何去打光。但是對於 AI 來說,如何確定已有光源的方向位置是並不容易。

為此,Google 採用了一種全新的機器訓練模型 —— 全方向照明輪廓。這種全新的照明計算模型可以將人臉當做光線探測器,從而推斷出來自所有照射的光源方向、相對強度和顏色,而且還能通過另一種面部算法來估計照片中頭部的姿勢。

雖然聽起來很高大上,但是實際訓練模型的呈現效果還是挺可愛的,它會把人的腦袋看做三個圓圓的銀色球形物體,頂部的球「質地」是最粗糙的,用來模擬光線的漫反射。中間的球也是磨砂的,它用來模擬較為聚集的光源。而最底下的球則是鏡面「材質」,用來模擬較為光滑的鏡面反光。

另外每個球體都能根據自身發的特點反映環境照明的顏色,強度和方向性。

這樣,Google 就能得到後期合成光源的方向應該在哪裡,比如經典的人像光源是位於視線上方 30°,與攝像機軸成 30° 至 60° 之間,Google 也遵循了這一經典規則。

在學會了給人像添加光源的方向之後,那接下來要做的就是如何讓添加的光源變得更加自然。

前一個問題有點像「獨孤九劍」的劍譜,學會了之後就會做固定的一些題目了。而解決後一個問題則需要讓「獨孤九劍」儘可能多的實戰,將不同的實際情況融會貫通,再學會破解世間萬般武學。

為了解決這個問題,Google 又研發了另一個新的訓練模型,用來確定自定向光源添加到原始的照片中。正常情況下是無法用已有的數據訓練這個模型的,因為無法面對近乎無窮的光線照射情況,並且還要與人臉完美的匹配起來。

為此 Google 打造了一個很特殊的用於訓練機器學習的裝置 —— 一個球形的「籠子」。在這個裝置裡面具有 64 個具有不同視角的攝像機和 331 個可單獨編程的 LED 光源。

如果你去過杜比影院,在杜比影院的映前秀中有一個環節是聲音在一個半球型的穹頂中移動來模擬真實中近乎無限的方向。Google 這個裝置其實也是類似的原理。

通過不停地改變照射的方向和強度並模擬複雜的光源,然後可以得到人的頭髮、皮膚、衣服反射光的數據,從而獲得在複雜光源下的照明應該是怎樣的。

Google 一共請了 70 位不同的人,用不同的臉型、髮型、膚色、衣服、配件等特質訓練這個模型。這樣確保能夠最大限度讓合成的光源與現實相匹配。

此外,Google 並非直接通過神經網絡模輸出最後的圖像,而是讓神經網絡模型輸出一個較低解析度的商圖像。

這裡解釋一下什麼是商圖像,一張圖片我們可以分解為兩層:底層和細節層。底層包含圖像的低頻信息,反映了圖像在大尺度上的強度變化;細節層包含圖像的高頻信息,反映了圖像在小尺度上的細節。底層乘以細節層即為源圖像,而細節層則又可以稱為商圖像。

然後通過原始圖像的底層,採樣時輸入商圖像的數據添加額外的光源,就能得到一個最終輸出的圖像。

最後的流程就是這樣,先給定一張圖片,然後計算圖片中人物的表面法線,緊接著計算圖片中的可見光源,通過神經網絡模型模擬額外光源輸出較低解析度的商圖像,然後作為細節層與原始照片底層相乘計算,最終得到一張添加了額外光源的人像照片。

Google 還對管線進行了大量的優化,讓模擬的光效能夠在手機上實時交互,而整個模型的大小卻僅有 10MB 左右。

Pixel 5 的人像光效可以說是 Google 計算攝影中的一個典型案例,通過不斷訓練神經網絡模型讓手機得以模擬現實中的人像打光。完成了計算攝影一次新應用場景。

有些人說攝影本是門藝術,計算攝影在根本上是對攝影的侮辱,但自從 1839 年法國人達蓋爾做出了第一臺具備實用性的相機以來,一百多年來相機一直在由小眾走向大眾,直到手機攝像頭的誕生,讓每個人都有了近乎平等的拍照機會。而人們的內心的表達也讓攝影這門藝術得以逐漸豐富起來。

沒錯,計算攝影在「攝影」的同時也在「算影」,但算法早已是手機攝影中不可分割的一部分,所追求的仍然是模擬現實中所能實現的效果,畢竟沒人會把「魔法換天」叫做計算攝影吧。

而當蘋果和 Google 在計算攝影上走的越來越遠時,我們才發現,算法其實是比硬體更強的壁壘。

相關焦點

  • 手機如何輕鬆修出影棚人像光效?
    最近Jane迷上了一種紅藍漸變光效人像照,它的酷炫色彩可以有效地打造出時尚大氣感。這個時候可能小夥伴們會問,那要怎樣給人像照片添加紅藍漸變光效特效呢?別急,咱們來先看看兩張對比照。今天Jane跟大家講講如何用手機調出極具時尚質感的紅藍漸變光效人像照。01後期工具推薦這裡我們需要用到一款手機圖片編輯後期軟體——PicsArt。如果你想讓自己的操作流暢,你可以開啟手機的飛行模式,這樣就不會受到軟體裡小廣告的影響。
  • 看機器學習如何駕馭光影:一鍵為照片增光添彩的「人像光效」
    使用和不使用人像光效的圖片示例:注意人像光效如何勾勒出臉部輪廓,增加維度細節、立體感和視覺效果在 Pixel 4、Pixel 4a、Pixel 4a (5G) 和 Pixel 5 上的 Pixel 相機中,人像光效會自動對默認模式下的圖片和包含人的夜景照片(無論只有一人還是一小群人時)應用攝影后期功能。
  • Google Pixel 2、Google Pixel 2 XL和iPhone X!
    Face ID所依賴的TrueDepth攝像頭為前置攝像頭提供了人像模式(Portrait Mode)及人像光效(Portrait Lighting),打造淺景深效果的靚麗自拍功能。全新設計的雙鏡頭後置攝像頭具備圖像防抖功能,增加新色彩濾鏡、更深層的像素以及Apple設計的增強版圖像信號處理器,並具備人像模式(Portrait Mode)與人像光效(Portrait Lighting),為用戶帶來絢麗的拍照與攝像效果
  • Pixel 2 XL,軟體為王
    這麼多的內容,放在雲上是一筆不算小的開銷,比這開銷更難受的是:當我需要尋找某張照片時,很難找到。google photos 站出來試圖解決這個問題 —— 而且解決得並不賴。首先,它大手一揮,允許你上傳無限容量的高清大圖和視頻,且對於 pixel 2 用戶 2021 年前全部免費。在這個照照照拍拍怕,256G 都不夠用的年代,這簡直是智慧型手機一族的福音啊。
  • iPhone 12 跳票,華為 Mate40 缺芯,Google Pixel 5...
    另外一個真正值得關注的點是,iPhone 12 的發布時間也被爆出來了——據一位來自荷蘭的爆料者稱,蘋果很有可能是 10 月 13 日舉行 iPhone 12 發布會,10 月 16 日開始接受預定。消費者部門的各個團隊整年都在為此次發布會做準備,並成為蘋果在歐洲的首選合作夥伴。據了解,蘋果高級副總裁 Eddy Cue 也出現在上述視頻中,讓該爆料顯得非常可靠。
  • 新品全解析:Google 2020 新品發布會前瞻
    此外,4a 5G 只有 6G RAM 可選,而 5 則是來到了 8G RAM;當然 Pixel 4a 5G 的重量(168g)也會比 Pixel 5(151g)重上一點。屏幕蓋板材質上 Pixel 5 採用的是最新的康寧大猩猩玻璃 6,而 4a 5G 採用的仍然是 3 代。Pixel 4a 搭載一片 3885mAh 電池,而 Pixel 5 則是 4080mAh。
  • iPhone「人像模式」拍照技巧說明!
    目前支持「人像拍攝」的 iPhone 機型有:iPhone XR、iPhone XS、iPhone XS Max、iPhone X、iPhone 8 Plus 和 iPhone 7 Plus。當拍攝完畢之後,您可以還可以照片添加迷人的光效。藉助 iPhone X 及更新機型配備的原深感攝像頭,您還可以在人像模式下自拍。
  • 人像潤色磨皮美顏插件 中文漢化 Portraiture v3.5.4 Win破解版
    Imagemonic Portraiture 是一款比較經典且強大的 Photoshop 人像潤色磨皮濾鏡,用於人像圖片潤色,減少了人工選擇圖像區域的重複勞動。它能智能地對圖像中的皮膚材質、頭髮、眉毛、睫毛等部位進行平滑和減少疵點處理。濾鏡效果非常不錯,處理速度很快速和智能。
  • iPhone人像模式用得好,大片隨便有!
    ◢如何使用人像模式?在iPhone相機拍攝頁面,往左滑動我們可以看到人像模式。比如常見的綠植就是很好的人像背景,綠色的背景還能與人物的橙色衣物做對比,從而更好地突出人物主體。還要考慮的另一件事是背景離你的主體有多遠。當拍攝對象離背景較遠時,人像模式最有效。
  • Google Pixel 2拍照黑科技:單攝搞定背景虛化+內部潛伏神秘晶片
    Pixel 2拍照的「好」,有兩點可以非常直觀地感受到:一是雖然沒有時下流行的雙攝像頭,卻可以實現背景虛化的人像模式;二是憑藉HDR+,在弱光下、或者光線強弱差異明顯的情況下也能還原出豐富的細節。關於人像模式背後的機器學習和計算攝影黑科技,Google今天在官方博客上發文詳解,另外還宣布了一點與HDR+相關的小驚喜。
  • 最強夢幻夜景人像,攝影師都在模仿的對象!
    嗨,大家好,我是貓不斬的北北~ 不知道大家在拍攝夜景人像有什麼煩惱呢? 是光源?還是色調? 由於夜景人像光源相對比較複雜 好多小夥伴常常翻車 所以這次我翻到了ins上 有著200萬粉絲的攝影博主 關註上面的視頻號,可以每日看到攝影貓不斬最新審美分享
  • 單攝像頭的Pixel 2,憑什麼在拍照上碾壓iPhone 8?
    說Pixel 2系列拍照很「好」,主要體現在以下兩點:  一是雖然沒有時下流行的雙攝像頭,卻可以實現背景虛化的人像模式;  二是憑藉HDR+,在弱光或者光線強弱差異明顯的情況下也能還原出豐富的細節。  關於人像模式背後的機器學習,Google今天在官方博客上發文詳解,另外還宣布了一點與HDR+相關的小驚喜。
  • 神牛V1墨爾本人像創作分享
    根據不同場景,我都策劃了獨特的造型,整個拍攝計劃將從正午拍攝至夜晚,這也是測試神牛V1在不同挑戰下表現如何的好機會。時間是中午12:30,我們看到了一面很酷的牆。這類場景我一般都喜歡自然光拍攝,但是今天的挑戰是黑帽子完全讓人物的臉變暗了。因此我選擇使用裝在相機熱靴上的V1遙控第2臺V1,兩臺都處於TTL狀態。
  • 如何訪問google申請Google帳號的方法
    對於google公司來說,google帳號(用戶或帳戶)和gmail郵箱(帳號)都是同一個概念,可以通用使用google郵箱的格式來登錄使用。鑑於目前網際網路中google的強勢,很多人目前還沒有使用過google的帳號,並且google在市面上很多產品,都要求有google帳號來方便管理,下面就來介紹一下如何申請google帳號先找到一個能切換IP位址的工具,進入官網下載好壓縮包客戶端之後解壓到桌面上,雙擊裡面的exe圖標輸入已經註冊好的用戶名和密碼,點登陸進入軟體界面,選擇節點,點啟動加速
  • 最詳盡的暗光人像後期思路
    但暗光環境下造成的曝光不足和畫面偏色以及細節不清晰等問題如何在後期中解決是本次教程我要講解的。先看看原圖和成圖的對比效果:思路最重要修圖之前,先確定修圖思路,想要得到修圖思路,要先在原圖中找問題。下面我們看看原圖中的主要問題。如下圖:根據上圖中找出的問題,對應尋找解決辦法。
  • 人像模式用得好,大片隨便有!
    如今已是雙攝手機的天下,而幾乎每一款雙攝手機,都有一個同樣的功能——人像模式!今天我要跟大家解答兩個問題:人像模式到底是什麼?怎樣才能拍出最好的人像效果?人像模式的意義就是,虛化主體以外的物體,從而突出主體。那麼說完了什麼是人像模式,接下來說說「人像模式」到底怎麼拍...
  • 如何使用PS製作化妝品光效背景
    很多化妝品類的海報背景都是光效滿滿,boling boling的,今天我們就來製作一張簡單的光效背景,首頁要準備一張氣泡的素材和一張光暈素材,主要用到風、極坐標等濾鏡,以及漸變工具等。喜歡的朋友們可以一起操作哦,希望對大家有所幫助。
  • 萬能的PPT光效,原來美化如此簡單
    ▼寫在文前:最近發生了很多事,因此做了很多決定。太陽、夜光、螢光、儀器上的光、鑽石……所以呢,我總結了一些光效的關鍵詞:科技、專業、領先、醒目如果你的PPT和上述的關鍵詞相關,就可以大膽的使用光效,就像這樣:這樣:或者這樣:了解了應用場景,我們再來看看,光效素材,有哪些種類呢
  • Google上不去怎麼辦?Google打不開有什麼解決辦法
    那麼Google打不開要如何解決呢?我們一起來看一下。目前像大家常訪問的google.com以及google.com.hk均無法正常訪問,另外包括GMAIL郵箱也是如此,並且有大量網友遇到此問題,小編針對此問題做了小研究,為了各位小夥伴可以順利打開谷歌搜索,大家隨小編細說吧。
  • iPhone X相機新添兩功能,這是要挑戰人像攝影大師的地位了!
    iPhone X發布了,不過大家的關注點好像都在全面屏、AR和face ID這些觸手可及的熱點上,全然忽視了X在攝影攝像上所做的提升。