【集微開講】光鑑科技汪博:不止於ToF 再造新視界的3D感知技術

2020-12-11 集微網

集微網消息 蘋果和華為在手機上相繼搭載了ToF模組,促使3D視覺市場不斷升溫。3D視覺技術究竟有怎樣的背景?如果要開發,究竟應採取怎樣的技術路徑?這一系列問題,都成為行業中人關注的焦點。

為了答疑解惑,5月7日,集微網邀請光鑑科技CTO汪博做客第六期「集微直播間·開講」,帶來了以《3D視覺感知的技術原理與前沿挑戰》為主題的精彩演講,收穫了業界的極高關注。截至5月7日午間12:00,已有超10000人次通過愛集微APP直播平臺、b站、西瓜、百度等直播平臺觀看了直播節目。

點這裡觀看回放

3D視覺技術被稱作下一場機器視覺革命,它代表了從黑白到彩色,從模擬到數字,從靜態圖像到動態視頻以來的第四次視覺革命:從2D到3D。

用3D技術拍攝到的照片,包括了物體的結構、尺寸和距離,體現了物體在現實空間的唯一性。「大家可以想像一下,用一個深度相機拍攝一個物體,不但能拍到每個像素的顏色,還能拍到像素的位置,最後就形成一個3D圖像。」汪博形象地解釋了3D感知的概念。

據他介紹,3D視覺技術還處在早期發展階段,之前的使用場景主要集中在實驗室和工業應用中,自動駕駛雖也是重要應用場景,但目前還沒有完全落地和普及。真正讓該技術火起來的是2017年蘋果在iPhone中使用了3D結構光攝像頭。而隨著具有3D感知能力的硬體設備逐漸普及,加之蘋果也開放了很多3D數據獲取的接口,3D人臉重建與識別、3D虛擬世界重建、機器人與工業自動化、3D物體識別和體感遊戲與動作交互等應用都獲得飛速的發展。

精彩背後必有強大的技術。常見的3D感知技術分3種:雙目視覺、結構光和ToF,汪博對其逐一進行了講解。

雙目視覺技術是基於視差原理,並利用成像設備從不同的位置獲取被測物體的兩幅圖像,通過計算圖像對應點間的位置偏差來獲取物體空間信息。

結構光技術是通過探測投射在被測物體表面特定結構光學圖案的變化來測算距離。與雙目視覺相同的是,其也使用三角測量法,不同的是增加了主動投射。

ToF(飛行時間)成像技術通過雷射器主動發射調製過後的光脈衝信號至目標面上,利用傳感器接收反射光,利用反射回雷射的相位差或時間差進行運算得到距離數據。

對於雙目視覺,汪博指出其兩大挑戰:如何尋找特徵和如何匹配特徵。

雙目視覺在成像時要對兩幅圖像進行對比計算,具體到對每個像素點或像素塊都要進行比對,這就造成了異常龐大的計算量,需要ASIC或DSP來支持。另外,被攝物體本身特徵不明顯(如白牆),就很難進行圖像重建。

結構光則可以解決白牆的問題。因為其在攝像頭中集成了雷射發生器,發射出特定散斑結構光,投射到白牆時散斑圖案並未發生顯著形變,可以計算出對面是白牆。

結構光投射的編碼是已知的編碼,在散斑投射時就提供了匹配加速的機會。不過,結構光技術也存在挑戰,就是需要雷射投射裝置高效地生成幾萬個散斑。汪博表示,光鑑科技使用了WFP波前調製技術,對入射的雷射進行調製,在遠場目標上形成任意光場排布,同時可以大幅提升深度重建速度,毋需ASIC或DSP。

ToF成像技術已經廣為人知了,但很多人並不知道該技術還有幾個不同的類別。「實際上,ToF技術可分為iToF (indirect)和dToF (direct)兩大類。而iToF又分為CW-iToF和PL-iToF。」汪博解釋道。

CW-iToF通常採用正弦波調製方式。接收和發射端正弦波的相位偏移和物體距離攝像頭的距離成正比, 通過相位偏移來測量距離。

PL-iToF通過發射和接收脈衝信號,根據接收到信號到能量強度的比例來測量距離。

整個iToF技術面臨四大挑戰:

1.飛點噪聲

由於散射光導致邊緣變形,而像素有一定尺寸,測量物體邊緣時,反射光包含多個距離信息。

2.多路徑幹擾

真實場景存在複雜的鏡面反射和漫反射,在原理上使得測量值變大。

3.強度誤差

同一深度、不同反射率物體,測量值存在差異。

4.距離範圍

PL-iToF:脈寬越大,量程越遠,精度越低。CW-iToF:頻率越低,量程越遠,精度越低。

dToF技術是直接根據脈衝發射和接收的時間差來測算距離,可以解決多路徑幹擾的問題,同等光功率下工作距離較遠,抗環境光的能力更好,缺點是製造工藝複雜。蘋果在2020版iPad Pro搭載了dToF,使得該技術逐漸升溫。不過dToF技術還不成熟,只有蘋果實現了量產。

在ToF領域,光鑑科技推出了自己的方案——mToF。汪博表示:「m(modulated)就是調製的意思,整個方案還是採用了iToF晶片,通過空域、頻域和時域調製,實現了等同於dToF的效果,並在解析度上超過了dToF。」

總結了三種技術的特點後,汪博認為目前的技術所獲得的3D圖像雖遠未達到期望,但依舊有美好的未來。「深度相機現在與專業設備的差距,就相當於當年手機與單反之間的差距,10到15年內就會追上。」他相信,未來每個人的手機都是一部高精度的3D相機。

最後,汪博表示:「光鑑科技的願景就是要創建一個新的維度,讓機器視覺給人們的生活提供更多的機會。」

互動問答

Q:3D視覺技術如果落地,會帶來什麼樣的使用體驗?

A:在消費電子領域,3D視覺技術目前有3個用途:一是做3D識別,二是做3D重建,三是做2D拍照增強。3D識別應用包括了各種通行檢查,還有支付認證。3D重建常見於用手機拍攝人臉模型或實物模型。2D拍照增強主要是在iPhone拍照時會對照片進行自動補光,能實現對照片複雜的後期渲染。

Q:蘋果在3D視覺方面切入很早,設置了很多壁壘,國內企業如何進入?

A:蘋果在專利和供應鏈上都設置很多壁壘。在安卓手機上,要做深度相機會遇到一系列問題。我們公司有一套自己的、具有獨立智慧財產權的方案,可以繞過蘋果專利的壁壘。同時,該方案在物理結構上和蘋果的不同,採用了不一樣的器件,在供應鏈上更有保證。而且,當前面臨中美貿易戰,更要注意這些問題。並且,也需要有自己創新的方式,要走在技術的前列,而不是單純的模仿。

Q:iToF的應用領域有哪些?

A:在手機上,如華為P40的後置攝像頭就採用了iToF技術。此外,還有掃地機器人、物流機器人等,也採用了該技術去做環境的感知。

Q:dToF陣列密度為什麼不如結構光和iToF?

A:dToF採集信號的方式導致其前端需要單獨算力,電路結構更複雜。其前端獲取了直方圖,要提取出返回信號的峰值,不僅需要感知電路,還要計算電路,這使其晶片面積更大。在同等面積下,iToF和結構光傳感器的電路更簡單,可以放更多的電路陣列。更多關於iToF與dToF的比較可參閱光鑑科技最近發布的《ToF深度相機技術白皮書》。

Q:現在有了ToF晶片,對算法的要求是不是變低了?

A:算法在ToF裡有非常重要的地位。算法有兩大作用:一是在出廠前做一些標定校準,把晶片本身的誤差消除。二是在獲得數據之後,會做一系列的優化,如消除多路徑幹擾等。

Q:蘋果在dToF上有設置技術壁壘嗎?

A:蘋果在dToF和結構光方面都有一系列的專利壁壘,想走相同技術路線的廠商會遭遇一定風險。在dToF方面,蘋果更大的優勢來自產業優勢,其定製了一個專用晶片,比其他廠商要領先兩年。

Q:請預測10後iToF和dToF各自的市場份額。

A:市場份額很難預測。在短距離、低成本上方案上,iToF更有優勢。如果測量距離比較遠,成本空間又大,則適合dToF。如果是近距離拍照,dToF的誤差並不低,反之,iToF、結構光更精準。要根據具體應用,來分析各自的市場表現。

Q:iToF和dToF將來會發生一方替代另一方嗎?

A:A技術的劣勢要跟B一樣好,或是成本足夠低,才可以替代B技術。如果兩者都在不斷迭代,各自有適用的場景,很難判斷哪個技術會佔據絕對的優勢。

Q:手機廠商是否放棄結構光,大規模使用ToF技術?

A:目前的趨勢是後攝上ToF使用多,結構光在前攝上優勢明顯。結構光在手機上最主要的挑戰來自於全面屏。機構光需要手機的「齊劉海」結構,會影響到產品設計和使用感受。光鑑科技有獨特的方案,可以使得前攝想用結構光的手機,避免出現「齊劉海」。

Q:3D視覺技術怎麼去支撐AR/VR技術?

A:AR/VR前幾年很火,現在降溫不少,正處在低谷,長期看還是有很好的前景。目前,AR設備顯示效果還不理想,並且缺乏3D數據的來源,之前3D數據的獲取還是比較稀缺的。而這也是我們做3D感知的動力,讓大家都能夠成為3D內容的創造者。

而且,5G的發展給3D數據的傳輸帶來高帶寬、低延遲的機會。高帶寬使得3D數據傳輸更快,低延遲使得部分計算可以放到雲端去做,減輕移動端的處理、功耗壓力。

「集微直播間·開講」欄目是集微網推出的一檔大咖私享欄目,目前已成功舉辦6期。每期邀請一位行業大咖通過線上直播形式結合當下熱點進行主題分享,同時設置直播間文字提問互動環節。

59日(周六)10:00,集微網將邀請上海磐啟微電子有限公司市場&工程副總經理楊豐林做客第七期集微直播間·開講,帶來以《無線通訊技術如何撬動萬億級工業網際網路市場》為主題的精彩演講。

隨著5G的到來,無線通信技術正在成為工業網際網路場景中廣泛使用的技術。在此背景下,如何在不同場景中善用無線通信技術,從而更好地將應用場景與通信技術緊密結合,挖掘其中的市場應用價值,第七期「集微直播間·開講」將重點關注。

點這裡觀看開講七期直播


5月9日上午10:00,「集微直播間·開講」第七期即將強勢開播,屆時將在愛集微APP平臺、新浪微博、B站、百度、西瓜五大直播平臺同時開播,更多乾貨和精彩內容不容錯過哦!

如果想與愛集微平臺合作,或是了解相關活動問題,皆可與集微網徐倫聯繫(微信/電話同15021761190)。

(校對/ Humphrey)

相關焦點

  • 聚焦新科技,開福升級發展大講堂開講
    聚焦新科技,開福升級發展大講堂開講 2020-12-22 21:31 來源:澎湃新聞·澎湃號·政務
  • 奧比中光:打破國際3D感知技術壟斷
    「奧比中光自主研發的AI 3D視覺技術,讓智能終端能夠像人一樣真正感知外界。」近日,奧比中光創始人、CEO黃源浩在接受記者採訪時說。萬物互聯時代,AI 3D視覺帶來技術創新,催生人臉識別、AR/VR、體感交互等消費級產品,促使物聯網相關行業如智能硬體、智能汽車、智能製造等領域煥發新的生機。
  • 平衡隱私安全雙需求,「維感科技」以ToF3D技術重新定義安防
    2013年,芬蘭一家科技公司首次推出創新型支付技術——刷臉支付,自此,基於生物識別的刷臉技術在全球火熱鋪開。該技術在我國大面積應用是在2017年iPhoneX推出了刷臉解鎖和刷臉支付之後。國內「隱私化安防」先行企業「維感科技」創始人楊洪濤認為:「相比於紅外感知監測及毫米波雷達方案,ToF技術在個體姿態識別和精度上優勢明顯,同時又確保不抓取彩色圖像,可以完美兼顧安防與隱私、滿足多樣化場景剛需並快速落地。」基於如上判斷,2020年5月,維感科技正式成立。
  • 奧比科技大廈正式奠基,打造全球3D視覺感知研發高地
    12月21日上午,奧比科技大廈開工奠基儀式在深圳舉行。奧比中光科技集團股份有限公司創始人、董事長兼CEO黃源浩,聯合創始人、CTO肖振中,中建三局集團有限公司深圳經理部黨委書記、總經理鄒煒及相關單位代表出席奠基儀式。「今天是奧比中光發展史上的重要裡程碑。
  • 濟南顯微外科醫院黃威醫生做手指再造好嗎?
    若斷指再植不成功,恢復手指完整可做手指再造手指斷了,依照如今的醫學水平已經能夠再造成功。斷指再造方法,最先要追溯到傳統腳趾移植,這種方法主要是將腳趾進行移植改造,將移植腳趾與缺損手指的血管、神經、肌腱等重新溫和,術後腳趾缺損,手指不美觀,也就是常說的「腳趾搬家」。
  • 國安信銀參投企業,奧比中光3D視覺感知技術獲廣東省委書記李希...
    「從省科技進步一等獎到省委書記調研,奧比中光為何備受關注?」深圳奧比中光科技有限公司是全球領先的AI 3D感知技術方案提供商,成立於2013年1月,總部位於深圳,在上海、西安、美國密西根設有分支機構。目前,奧比中光員工總數超800人,研發人員佔比達70%,碩博學歷員工佔比超40%。
  • 騰訊極光盒子3mini:京東天貓預售開啟,智萌科技打卡4K視界
    騰訊極光盒子3mini:京東天貓預售開啟,智萌科技打卡4K視界 此外,騰訊極光盒子3mini對於經常出差的商務人士來說,可以說是一款常年必備的便攜好物,憑藉其小巧精緻的設計,放在任何地方都不會佔用過多空間,一拿即走,絕對稱得上是「行走的創新黑科技」。
  • 【集微發布】450億!韋爾虞仁榮登頂2019中國芯首富
    【集微發布】450億!韋爾虞仁榮登頂2019中國芯首富
  • 全國各地患者慕名而來,這個3D全形手指再造技術到底有多神奇?
    他就是濟南顯微外科醫院院長、3D全形手指再造首席專家黃威教授。自我院「3D全形手指再造技術」開展以來,在黃威教授的帶頭下越來越成熟,成立了手指再造中心,吸引著越來越多的外地患者慕名問診。據醫院相關部門統計,黃威教授現已開展再造手術上千餘例,受到無數患者點讚,是名副其實的手指再造「大咖」。
  • 集萃感知嶽玉濤博士:民用毫米波雷達產業 新技術交叉帶來新機遇
    原標題:集萃感知嶽玉濤博士:民用毫米波雷達產業,新技術交叉帶來新機遇   雷達作為利用電磁波探測目標的電子設備,具有全天候、全天時工作的特點,已經滲透應用在人類生產生活的多個領域
  • ToF深度相機技術白皮書
    結合當前學術界的成果以及工業界的發展狀況,光鑑科技於近日發布了《ToF深度相機技術白皮書》。本文主要分析了ToF深度相機的基本工作原理和不同技術路徑的優勢和挑戰。與此同時,為了幫助讀者更加詳細地了解3D視覺技術方案,文中還進一步比較了ToF與雙目和結構光技術方案的優劣勢。
  • 智慧科技突破時空界限——中源協和「生命雲視界」即將重磅上線!
    典禮當天,通過網際網路3D展示技術,重磅打造的創新智慧科技互動平臺中源協和「生命雲視界」將於生命醫學獎官網同步上線。突破空間 交匯延伸感受生命科技與網際網路技術的完美結合「生命雲視界」智慧科技互動平臺採用三維渲染交互技術,真實還原線下場景,將複雜的研發流程和晦澀的科普知識實現通俗易懂的可視化展現。
  • 廣東手指再造醫院那裡好,為什麼都在使用3D全形手指再造!
    談到手指再造,有不少人以為是用假肢或者手指套替代,其實不是。手指再造是一個非常嚴謹的外科手術,嚴格講是一個在高倍顯微鏡下才能完成的高難度顯微外科手術,因為手指上的血管只有零點幾毫米,難度可想而知。中山源田骨科醫院手外科黃輝強主任介紹到,手指再造主要原因是手指因外傷造成的短少和缺失,傳統的手指再造,就是把腳趾直接移植到手指上,雖然有了一個「手指」,但卻犧牲了一個腳趾。而且並不美觀,目前隨著醫療的發展隨著醫療技術的進步,醫生們通過藉助3D列印技術成功實現了完美的手指再造手術,通過自身部分組織取材,儘可能的保留了腳趾,並且能最大限度還原手指功能。
  • 【集微早報】①印度手機市場投資成「巨坑」?大批小規模中資企業已...
    【集微早報】①印度手機市場投資成「巨坑」?★蘋果三星小米齊發力UWB技術,A股相關產業鏈廠商有望受益自去年iPhone 11首次推出超寬帶UWB技術,不久前三星Galaxy Note20 Ultra也支持UWB技術,而今小米10系列產品也正式推出UWB技術。10月12日,小米官方公布其最新的黑科技「一指連」UWB技術,一指連全場景設備。這是一全具備空間定位的新一代連接技術,率先實現了革命性的指向交互方式。
  • 商湯科技發布L4級接駁小巴和智能路側感知解決方案,構建智慧出行新...
    打開APP 商湯科技發布L4級接駁小巴和智能路側感知解決方案,構建智慧出行新基建 商湯科技 發表於 2020-11-26 16:55:42
  • 厚樸金控A輪戰投維冠視界 探索新零售智慧商顯與創新
    8月5日,主題為「厚樸創 維冠夢」的厚樸金控科技集團戰略投資深圳市維冠視界科技股份有限公司籤約發布會,在深圳大鵬湖光山色度假村舉行。多家投資機構、公司新老股東等100多位來賓共同出席了本次活動,多家主流媒體進行跟蹤報導。
  • 視界通黑科技值得你擁有!
    視界通瀏覽器是河北啟天電子技術有限公司,通過洞察用戶需求,針對新一輩年輕人精心研發的一款多平臺跨境瀏覽器,可支持Windows、IOS、Android平臺,可加速網絡訪問,能有效防止惡意插件,阻止惡意彈窗和浮動廣告,加強網上瀏覽安全
  • OPPO機械狗體驗:感知技術改變未來生活
    OPPO基於感知技術,帶來了一隻機械狗,這個機械狗是OPPO在感知技術的體現,集成眾多先進的技術,能實現跟隨、避障等等的功能,這隻機械狗上滿滿的黑科技。不僅正面有傳感器,OPPO機械狗的身上360度都有傳感器,不僅能識別正面的圖像,側面已經後面有物體靠近都能感知。在待機狀態下,如果有人走近,機械狗就會做出跺腳的動作,這個也是機械狗周邊的傳感器發揮的作用。
  • 3d列印技術在頭盔生產領域的應用
    工廠也在加班加點的大量生產,很多頭盔工廠為了滿足廣大用戶的需求,紛紛運用3d列印技術進行設計建模,從而打造出更多安全、有個性的頭盔。3d列印頭盔技術相信很多朋友們都不是很了解,接下來小編帶大家來看一下極光爾沃用A8s 3d印表機進行3d列印頭盔的製作過程:1.