從Spilly談社交AR應用的技術實現原理

2020-12-03 Yivian虛擬實境

文章相關引用及參考:映維網

Spilly於本周正式發布了AR應用Spilly World,而本文正是來自於Spilly團隊

映維網 2018年01月15日) 2014年,一家名為Looksery的烏克蘭初創公司利用這項技術為消費者創建了一個數位化妝自拍應用程式,而該應用程式的下載量超過了一百萬次。Snapchat發現了潛在的巨大市場,並且斥資收購了Looksery。6個月後,這為Snapchat帶來了現在十分知名的「Lens」產品。在另一邊廂,Facebook感覺到競爭對手的危險,他們在這之後的第二年收購了MSQRD應用程式背後的團隊。「自拍AR」這種以人為核心的計算機視覺突然在世界範圍內引起了轟動,成為了兩大社交媒體巨頭之間鬥爭的關鍵武器。

在2017年,蘋果和Snapchat都第一次推出了基於SLAM技術的ARKit和World Lenses(允許設備在平面上置放數字對象),而Facebook則為市場帶來了AR Studio(允許開發者創建自己的AR濾鏡)。然而,有消息稱相關的努力尚未成為用戶之間極速躥紅。

那麼接下來是什麼呢?對我們來說,這是新型社交AR的興起。社交AR不僅能夠作為自拍AR階段和眼鏡AR之間的橋梁,而其潛在相關的技術有可能成為未來的關鍵組成部分。要做到這一點,我們需要開發一個神經網絡,在所有配置中(不僅只是自拍)實時檢測和追蹤人像。然而,這向我們提出了一系列的挑戰。

對於利用前置攝像頭實現的自拍AR追蹤,其基本上是識別和追蹤人像時的一個特殊情況。從前置攝像頭轉移到後置攝像頭,我們將有可能遇上其他情況,如:

對象更有可能偏離相對於攝像頭的中心位置。他們可以出現在不同的距離,或以不同的大小呈現。他們往往不是面向攝像頭,所以我們不能只是尋找人臉,而是要尋找頭部,頭髮,帽子和各種相關特徵。視圖中經常出現多個人像。為了實現我們的技術,以上是我們需要克服的事項。那麼,技術的工作原理到底是什麼呢?下面我們將其分解成4個部分:

1. 多個頭部與身體的檢測

我們的技術能夠實時檢測多個頭部與身體。在提供用戶的攝像頭圖像後,應用程式可以識別圖像中顯示頭部及其相應身體的區域。

這能夠做什麼呢?這允許我們根據頭部大小來估計人像的距離。對於身體,我們可以錨定人像運動的任何視覺信息。

2. 場景/視圖中的持續性個人追蹤

為了追蹤場景中人像的動作與特徵,我們根據多個幀來比較多個頭部和身體的信息。這樣,即使他們是被其他人包圍,即使他們離開攝像頭視圖後又重新進入,我們也能夠將視覺信息固定在特定的人像身上。

3. 單獨背景與全身細分

對於每個目標追蹤人像,我們會進一步分類屬於面部,皮膚,頭髮,衣服和背景的像素。就這樣,我們能夠清晰地分離開一系列不同的圖層,然後我們可以將其用於AR效果的高級混合。如果不是這樣,設備只能通過光場或深度感知技術實現,而這對當前的智慧型手機而言並不實際。

4.編輯器

我們專門培訓了我們的神經網絡,令其產生任何設計師都可以輕鬆進行交互和操作的圖層。由於網絡基於簡單的數學計算,因此我們很容易在桌面和行動裝置上以相同的質量實現。這使得設計人員能夠使用我們的自定義編輯器來快速迭代和設計面向Spilly應用程式的視覺效果。

以上是具體的工作原理,下面讓我們看看技術的部分用例:

我們開發的三款社交AR應用程式:鼓勵人們聚在一起,扮演自己喜歡的明星,來回作弄對方等等。遊戲體驗:人們現在可以成為遊戲中的可定位和可操作的角色。時尚應用:將衣服/濾鏡應用至用戶身上,不僅有趣,而且你可以進行虛擬「試穿」和購買。把你自己放入第三方內容:藉助我們的全圖細分技術,用戶可以將頭部置放於任意視頻中的人像身上,從而完成「頭部移植手術」。不知道你想不想成為最愛電影中的主角呢?潛在的用例很有很多。在眼鏡AR時代,人們很可能成為一系列相互作用的情境觸發器,如室內生活情景(如特定於某人的提醒,比方說提醒丈夫做早餐),個人細節,或者說更豐富的遊戲體驗。接下來,我們可能會看到涉及商業交易的戶外交互(如「分類廣告網站」項目的個人付款),以及視覺增強,你可以期待Tumblr和Pinterest(皆為圖片分享應用)背後的相同動機擴展到你個人身上。

簡而言之,人管理著這個由技術驅動的世界,而這種以人為中心的視覺技術進步只會進一步將人與技術聯繫在一起。我們正在走向這麼一個未來:以智慧型手機為基礎的商業,娛樂和自我表達將從屏幕束縛中解放出來,數字世界將直接集成至我們面前的世界。我們需要謹慎行事,但這個潛在未來的價值已經清晰可見。

相關焦點

  • AR增強現實技術的原理及現實應用
    AR 增強現實概念及原理AR 增強現實技術通過將虛擬信息與真實環境影像相疊加的方式進行即時性信息數據交互,其交互的信息形式可以是文字、圖像、視頻、聲音等各種數據。用戶可通過 AR 頭顯或智能行動裝置上的交互配件,如話筒、眼動追蹤器、紅外感應器、攝像頭、傳感器等設備採集控制信號,並進行相應的人機互動及信息更新,實現增強現實的交互操作。其中,三維註冊是 AR 技術之核心,即以現實場景中二維或三維物體為標識物,將虛擬信息與現實場景信息進行對位匹配,即虛擬物體的位置、大小、運動路徑等與現實環境必須完美匹配,達到虛實相生的地步。
  • 談社交能力 的重要性
    原標題:談社交能力 的重要性當今社會,人員流動方便快速,不同領域的人,互相交集的機會很多也很頻繁,社交生活顯得日益重要,而社交能力,也在人與人的交往中,在處理日常事務中,日益彰顯其重要性,可以說,社交能力,往往決定了一個人是否能獲得事業成功,是否能讓自己的日常生活過得更為舒心。
  • VR和AR的未來發展
    vr/ar的應用什麼是虛擬實境?虛擬實境技術(vr)是一種能夠創造和體驗虛擬世界的計算機仿真系統,它使用計算機生成一個模擬環境,它是多源信息融合、交互式三維動態場景和實體行為的系統仿真,使用戶能夠沉浸在環境中,什麼是AR?
  • 工廠的機器人技術,工廠的各個功能模塊和子模塊
    ar技術是一種將虛擬信息與真實世界巧妙融合的技術,是光學,圖形技術和虛擬技術3d製造技術的結合。ar技術可以分為3d立體的ar,3d動態的ar和ar虛擬立體形象技術三大類,成熟的運用分別是3d虛擬導航輔助,基於動態ar的遊戲虛擬化,以及基於3d的ar模型形象信息傳播。
  • 技術 螢光定量PCR技術的原理及應用
    但是,由於傳統的 PCR 技術不能準確定量,並且在操作過程中容易受到汙染而出現假陽性,使其應用受到很大的限制。1FQ-PCR 的原理及方法所謂 FQ-PCR 技術,是指在 PCR 反應體系中加入螢光基團,利用螢光信號累積實時監測整個 PCR進程,最後通過標準曲線對未知模板進行定量分析的方法。
  • 視頻矩陣技術原理與應用
    打開APP 視頻矩陣技術原理與應用 秩名 發表於 2011-06-02 09:56:26    數字視頻矩陣技術原理    目前數位化系統主要有下面兩種情況:    一是按著模擬視頻矩陣的概念,對輸入的數字視頻信號(數據流)建立通道式的連接(多少入對多少出),這樣的設備主要用在電視演播室中,它所適應的系統(網絡)結構是集總式的,但採用這種結構在安防行業的電視監控系統很少採用。
  • 網紅社交應用「小宇宙」解密
    在ASO領域有句名言,65%的App下載是通過搜索來實現的。ASO做得好可以帶來大量優質的自然用戶,也是十分經濟、轉化效果直接的應用推廣與運營手段。無論是通過積分牆、關鍵詞、評論等方式在App Store曝光,最終APP要實現有效的轉化及用戶留存,還要歸結於產品本身。
  • AR增強現實技術全解讀
    AR技術原理AR從其技術手段和表現形式上,可以明確分為大約兩類,一是Vision based AR,即基於計算機視覺的AR,二是LBS basedAR,即基於地理位置信息的AR。這種AR技術利用設備的GPS功能及傳感器來實現,擺脫了應用對Marker的依賴,用戶體驗方面要比Marker-Based AR更好,而且由於不用實時識別Marker姿態和計算特徵點,性能方面也好於Marker-Based AR和Marker-Less AR,因此對比Marker-Based AR和Marker-Less AR,LBS-Based AR可以更好的應用到行動裝置上
  • 車載毫米波雷達的原理和應用技術
    來源|牛喀網摘要:本文分析了車載毫米雷達市場應用情況;介紹了其工作原理以及工作波形和工作調頻機制。車載雷達應用市場潛能巨大,有效的保障了行車安全和操控的舒適度。引言毫米波雷達作為汽車主動安全領域關鍵傳感器部件,可有效穿透霧、煙、灰塵,實現全天時、全天候工作負荷要求。
  • 沃特世質譜成像技術、原理及應用
    質譜成像是一種前沿質譜技術,由於其技術的新穎性與應用的廣泛性,近期受到了很高關注。該技術應用潛力巨大,它是將質譜檢測與影像技術相結合的新型分子影像研究手段。特點是無需標記、所需時間短、耗費低、不局限於單分子,同時還可以提供組織切片中多化合物空間分布和分子結構信息。
  • 2020 Google開發者大會:AR技術大神講解ARCore深度API運作方式
    更多精彩內容請關注我們 2020 Google開發者大會:AR技術大神講解ARCore深度API運作方式 在2020Google開發者大會最後一天,關於ARCore的深度API技術演講如期舉行。
  • 無線充電技術實現方式及工作原理 電磁感應原理
    這一實現方式得到了無線充電聯盟 (Wireless?Power?Consortium;WPC)的大力推廣。3)電磁共振還處於研發階段的電磁共振技術,也可實現無線充電功能。此項技術由美國麻省理工學院(MIT)物理教授Marin?
  • 3D雷射投影儀技術原理以及應用
    前面簡紹了各種三維掃描儀的原理和應用,今天這篇文章我們聊一下另外一種光學設備:3D雷射投影儀。設備技術原理3D雷射投影儀是一種可以將雷射線精確地投射到各種曲面表面或異形物體上,形成一個虛擬模板的快速檢裝設備。使用3D雷射投影儀能夠讓操作員和裝配工快速、精確、充滿自信地定位部件。
  • AR體感互動原理是什麼,應用在哪裡?「和創互動」
    AR體感互動原理:自動式人臉識別喚醒36點人臉骨骼識別,實現更加細膩的表情同步可通過身體任何部位觸控或是簡單的揮動即可交互與真實動物等比例放大或縮小採用體感操控技術、3D技術和AR增強現實技術,通過奔跑、伸展、跳躍等肢體動作操控三維場景中的人物AR體感互動特點:1、無需佩戴任何感應設備,真正實現無接觸式人機互動。
  • Chrome瀏覽器增添AR效果,谷歌詳解Web AR實現技術
    為了使儘可能多的人能夠體驗這個產品,我們一直在探索如何在網頁端實現虛擬實境效果,此後所有人通過瀏覽器就能獲得神奇的AR體驗。」   在博文中,谷歌展示了其3D原型查看器Article,以及如何在瀏覽器中使用AR,詳細闡述了技術實現的細節,乾貨較多。沉浸感對其原文做了不改變願意的編輯,一起來看看Web AR是如何實現的吧。
  • 【討論】AR你懂我的意思吧 一起來捉妖
    而在pokemon go遊戲熱爆全球的時候,ar遊戲也開始進入新的紀元,開發這個遊戲的公司也因此賺得滿盆頗豐,ar遊戲市場還是很有潛力的。接下來小編就來給大家盤點ar遊戲,好玩又有趣。Pokemon Go:點開手機上的《Pokemon Go》,手機攝像頭實時拍攝的現實畫面中,便會出現皮卡丘、小火龍、比比鳥、傑尼龜等寵物小精靈形象。
  • 光子晶片的技術原理以及應用前景
    打開APP 光子晶片的技術原理以及應用前景 OFweek電子工程網 發表於 2021-01-13 17:21:55 在當下,主流的晶片製造材料依然是以矽為主
  • 細數AR技術在哪些方面影響了我們
    增強現實技術(AR)比VR更容易應用在人們生活中的方方面面,為人們的生活帶來極大便利的同時讓人們感受來自新科技的風暴。最近AR領域又有了一些新動作,AR為人們的生活和工作提供了更多的便利。AR+生活AR濾鏡是人們生活中應用廣泛的AR應用,可能你的手機裡就有這樣的科技存在。Snap旗下的AR濾鏡創作工具Lens Studio已經創建了150個濾鏡。
  • 光固化成型技術PolyJet技術的成型原理、材料及應用
    成型原理:PolyJet聚合物噴射技術是以色列Objet公司(現已被被Stratasys收購)於2000年初推出的專利技術,PolyJet技術也是當前最為先進的3D列印技術之一。它的成型原理與3DP有點類似,不過噴射的不是粘合劑而是聚合成型材料,如圖所示為PolyJet聚合物噴射系統的結構:PolyJet的噴射列印頭沿X軸方向來回運動,工作原理與噴墨印表機十分類似,不同的是噴頭噴射的不是墨水而是光敏聚合物。當光敏聚合材料被噴射到工作檯上後,UV紫外光燈將沿著噴頭工作的方向發射出UV紫外光對光敏聚合材料進行固化。
  • 電磁鉚接技術的原理、特點與應用
    電磁鉚接技術的原理、特點與應用 電子設計 發表於 2018-10-23 09:22:00 鉚接簡述 在飛機製造裝配中,常見的連接技術有螺栓連接,鉚釘連接