與展訊合作,讓百元手機實現 ARCore 的效果,uSens 做了哪些努力?

2020-12-17 雷鋒網

不久前,在京東「天工計劃 2.0 年度盛典」上,作為產業聯盟合作夥伴,uSens凌感科技帶去了他們針對移動端設備推出的 AR 解決方案——基於單目 RGB 攝像頭,並結合 IMU 的 AR 解決方案。

今年 6 月,蘋果在 WWDC 大會上推出 ARKit 開發平臺,毫無疑問成為 2017 年 AR/VR 圈的頭號大事件,緊跟著 8 月份,谷歌推出功能類似的 ARCore 平臺,兩家大廠出手,這也促使後半年市場上出現了不少用手機「掃一掃」的 AR 功能和應用。

不過,ARKit 主要針對 iOS 系統用戶,ARCore 目前還只支持 Pixel 和 Pixel XL,以及三星 Galaxy S8,能完全支持兩者的還只是高端設備。

 uSens 推出 AR 移動端方案,正是因為看到了 Android 中低端設備的需求。

ARCore 官網宣傳效果圖

雷鋒網(公眾號:雷鋒網)曾發文《大神揭秘:蘋果 ARKit 為什麼碾壓對手?》,大神 Matt Miesnieks 表示,蘋果 ARKit 的一大厲害之處是,只通過手機的單目攝像頭,結合 IMU,在智慧型手機上實現 SLAM 技術。谷歌早先也有 Tango,採用相似的技術原理。從本質上看,uSens 此次發布的技術方案跟上述兩家大廠是一致的。

2016 年 8 月,uSens 發布了手勢識別模組 Fingo,基於兩個紅外攝像頭,可對雙手實現 26 自由度追蹤,以及基於 marker 的位置追蹤。當時一共發布了三個版本,除了基礎版,Color Fingo 採用兩個 RGB 攝像頭,還增加了 Inside-Out 追蹤,以及 AR、VR 場景切換,更高版本的 Power Fingo 集成了四個攝像頭(2 紅外+ 2 RGB),並加入單獨的處理單元。

對現在推出的移動端 AR 方案,uSens 早先有一定的技術積累。今年 7 月份時,他們發布了一段視頻,展示了在三星 S7 上的 SLAM 效果,但該視頻還只是在虛擬背景下的效果。另外,我們也看到,VR 頭顯的 Inside-Out 方案,配備的也是雙目攝像頭方案。

儘管對於 SLAM 技術,AR 和 VR 有相似之處,但從雙目到單目,從專門的模組到支持行動裝置,這中間還是有很多不同。尤其是 VR 和 AR 對 SLAM 實現效果的要求不一樣,uSens 技術副總裁、中國研發中心主任馬賡宇解釋道,

「VR 應用對精度要求很高,如果頭部不動的話,識別結果有 1 毫米的抖動,就會感覺三維物體的晃動。同時,VR 設備對延遲要求很高,從圖像採集到處理完成,要控制在 20ms 以內。所以,必須用專門的攝像頭硬體,以保證整個流程在 20ms 內完成。


而 AR 應用精度的要求不那麼高,只要圖像和虛擬物體是一起顯示,而且圖像處估計的位置準確,5 毫米的誤差也是可以接受的;對延遲的要求也不大,即使圖像傳輸有 100ms 的延遲,顯示時圖像和虛擬物體顯示一致就行。硬體上,AR 不能要求太高的硬體,手機的攝像頭採集和傳輸的延遲比較大,主要是採集的延遲大,大約要 30ms,手機的 IMU 速率和傳感器都比 VR 設備要差。」

Fingo 模組現在能實現雙手識別

從原先的 Fingo 模塊到移動端方案,他們增減了一些模塊,「如原來針對 VR 設備,我們設計的是雙目攝像頭,全局快門,手機只有單目,我們把雙目匹配的模塊去掉了,添加了一些針對手機捲簾快門的處理模塊」。

與 ARKit 和 ARCore 可支持的功能相比,uSens 的 AR 方案主要包括 SLAM、手勢識別和人臉跟蹤。

對移動端使用的配置要求包括以下三點:

  • IMU,至少具備 accelerator、gyroscope 頻率要求在 100HZ 以上。

  • Android5.0 以上系統版本,需要支持 Camera2 的相關接口

  • Camera 和 IMU 的 timestamp 需要同步 

馬賡宇用一款成本價 500 塊的手機,向雷鋒網演示了他們的 AR 方案。跟 ARKit 應用類似,開啟應用後,程序會先檢測一個平面,之後我們可將虛擬物體疊加在真實的桌面上。

成本價 500 塊手機上的 AR 效果

他透露,剛開始他們用三星 S8 測試,AR 功能會佔到一半的 CPU,後來經過優化「S8 只佔到 3%-4% 的 CPU。在成本 500 塊的手機上,大概佔 15% 的 CPU」。

在《大神解讀:谷歌 ARCore 就是低配版 Tango,它比蘋果 ARKit 好在哪?》一文中,Matt 大神談到手機傳感器的標定問題,「智能機的 IMU 在工廠中只在單一溫度下進行標定。這意味著 IMU 硬體在某一指定的溫度下,誤差被調節到最低。但當手機發熱的時候,IMU 就不會那樣準確。」

為了適配中低端行動裝置,uSens 也在做對手機標定的事情,詳細了解手機 IMU 的噪聲,進行算法定製。目前,他們正在給展訊 11 月發布的 SC9853 晶片適配,後者一直主打中低端手機市場,此前展訊前 CEO 李力遊曾公開表示 2016 年的出貨量達到 6 億 7000 萬套,大概佔全球的 27%,聯發科佔 28%,高通佔 32%。

uSens 的工作人員向雷鋒網透露,他們為展訊適配包括 9853 在內的多款晶片,明年出貨量預計上億萬臺,而對於像華為、小米這些擁有自研晶片的手機廠商,他們也在接觸,但是否合作還未最終決定。

馬賡宇也坦言,對於中低端機,像光照這些效果會弱化,手勢識別和人臉跟蹤會做些取捨,精度上會稍遜於谷歌 ARCore,但能適配更多的中低端機型。

目前,阿里、騰訊、百度等都推出了 AR 可開放平臺,但馬賡宇表示,打造生態這些大廠比較有優勢,而他們的優勢是技術。他們確定了三個主要的商業模式:一是與手機廠商合作,提供算法,前裝內置,適配硬體廠商 Camera 及系統;二是 APP 應用,與不同領域應用 APP根據場景需求進行適配;三是定製合作,根據客戶需求靈活定製方案,聯合開發。

在即將過去的 2017 年,手勢識別方面,uSens 通過深度學習實現了雙手識別,尤其是當雙手重疊在一起時,如何識別出左右手分別是哪五個手指,同時跟一些 AR/VR 頭顯廠商達成合作如臺灣 AR 頭顯廠商 LEAPSY、Pico 小鳥看看、HTC,明年有望出現一些內置手勢識別功能的產品。移動端 SLAM 方面,他們已經開始跟手機廠商合作,相信明年我們會在手機上使用到更多帶有 AR 功能的應用,更多的用戶也有望吸引更多的 AR 開發者。

對於即將到來的 2018 年,uSens 有可能在 2018 年第一季度前完成 Pre-B 輪融資,技術落地,場景化和商業化將是他們的重點。

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 展訊AR手機方案為智慧型手機帶來創新熱點
    AR技術涉及的技術深度和廣度相比VR都要大一些,VR更偏向娛樂性,而AR的工具屬性更強,更容易與傳統的商業業態相結合,從而實現更大的價值,這是各方更看好AR發展前景的原因。其他的合作夥伴如華碩、聯想等則因Tango項目的前車之鑑可能會謹慎很多,這導致ARCore的發展極為緩慢。
  • 2018 uSens凌感科技年度漢字「手」
    攜手展訊、中科創達、小鵬、拜騰這些自帶科技光環的企業都是uSens凌感一路走來的合作夥伴。合作類似「談戀愛」,雙方對等,被對方優點吸引,兼容共生才能談好一段感情,走好人生之路。如同何安莉與費越作為公司兩位創始人的創業故事在矽谷朋友圈成為「江湖傳說」,儼然成為華人闖蕩矽谷的縮影。
  • 三星Galaxy J1 系列起用展訊 WCDMA 晶片
    國外媒體預測這款新機在歐洲的售價在 100 歐元(約合人民幣 705 元)左右,除馬來西亞外,還將在俄羅斯發售。  集微網消息得知,此款三星 Galaxy S1 採用展訊 SC7727S 雙核 WCDMA 解決方案。
  • 開發與共享,uSens 賦能 Unite Beijing 2018
    現場更有超大的Unity合作夥伴展示區,Made with Unity體驗區,酷炫好玩的Unite Party以及有趣的周邊活動。讓參會者在為期三天的時間裡,全方位地掌握Unity最新的技術知識,交流開發經驗,把握行業發展脈搏,體驗全球知名廠商的前沿科技與高品質Made with Unity遊戲與應用帶來的震撼感受!
  • 展訊平臺手機重啟問題分析指南
    串口log的方案五、展訊平臺判斷重啟類型六、展訊平臺關閉 sysdump 與watchdog關聯七、展訊平臺手動觸發sysdump 方法一、 User 版本 默認開啟 sysdump 方法首先,為什麼要這麼幹?
  • 紫光集團是國企嗎_紫光集團有哪些子公司
    在國家戰略引導下,紫光集團以「自主創新加國際合作」為「雙輪驅動」,形成了以集成電路為主導,從「芯」到「雲」的高科技產業生態鏈,在全球信息產業中強勢崛起。目前,紫光集團是中國最大的綜合性集成電路企業,全球第三大手機晶片企業;在企業級IT服務細分領域排名中國第一、世界第二;與英特爾、惠普、威騰電子等全球IT巨頭形成戰略合作。
  • 百元價位手機的「坑」!小米紅米9a和華為百元機哪個千元內手機好?
    作為一款入門級產品來說,Redmi 9A在硬體配置方面基本上還算性價比高,不過,依然有一個需要注意的」坑「,就是屏幕解析度依然是720p,,在視頻解析度主流都是1080p的今天,手機屏幕720p的模糊解析度,這個問題一直都是百元手機的詬病,之前,我就寫過一篇文章來批評華為百元價位手機:《
  • 隨身看比賽, TD 電視手機即日起服務奧運
    -- 聯想移動攜手展訊通信,正式交付首批 TD 數位電視手機 北京2008年8月1日電 /新華美通/ -- 聯想移動通信科技有限公司(以下簡稱聯想移動)攜手展訊通信有限公司(Spreadtrum Communications, Inc.
  • 我國首款高精度北鬥定位手機晶片面世
    展訊通信與高精度定位服務商千尋位置近日合作推出了首款支持高精度定位的手機晶片,這也是我國高精度的北鬥定位首次應用到手機終端領域。   高精度定位在應用層面的創新,也會為整個智能硬體產業帶來跨代式的發展機遇。
  • SOAP R11 上手:百元全面屏手機是什麼樣子?
    顯示效果上,SOAP R11 的這塊屏幕調教偏向冷豔,這也是大多數國產手機的調教方式,整體觀感在同價位手機中算得上還可以,不過 SOAP R11 的屏幕可視角度一般,左右斜一點角度,屏幕會變得發黃,影響觀感。
  • 拉高入門手機門檻,紅米 9 讓百元檔手機杜絕「電子垃圾」!
    百元手機市場一直是人們關注的盲點,大多數人只會關注一千元以上檔位的手機。旗艦手機的熱度更是居高不下。但是手機銷售還有一個龐大的市場——百元入門手機。雖然百元入門手機的熱度不高,但銷量不低。各個品牌廠商的銷量有很大一部分來自百元入門手機。
  • 2020 Google 多項 ARCore 更新帶來AR開發全新可能!
    比較當前的像素點的深度與之前渲染在這個像素的點的深度,如果已經有別的物體出現在更近的位置,那麼我們就忽略當前的像素點,這樣就實現了基於深度的遮擋效果。你在體驗過程中,需要先用手機掃描周圍環境,通過掃描和探索來發覺故事中的 AR內容。通過該應用,你可以利用周圍的空間與 AR 進行互動,好像親眼目睹地球的浩劫與救贖,效果震撼人心。
  • 2017手機AR行業盤點 6大標誌性事件
    回顧2017,可以稱得上真正的手機 「手機AR」元年。不同於現階段稍顯笨重的頭顯式 AR,手機 AR 憑藉其易用性及硬體存量優勢,不僅博得了巨頭們的青睞,也吸引了眾多創業公司的入局,從開發引擎、內容、以及平臺,各環節卡位出現。
  • 月收入從百元漲到千元!番禺庇護工場引入手機屏幕生產項目
    「他們不但能打包裝、擰螺絲,而且能駕輕熟練地完成精密度要求極高的手機屏幕製作工序。」番禺區殘疾人庇護工場引入的新項目讓殘疾人學員重新認識了自己。 幫助殘疾人實現就業,是殘疾人實現自身權利和價值、融入社會的重要路徑。
  • 紅米9 真的算是現在最好的百元手機
    今年千元手機總體看都不是很好,因為現在大部分手機廠的精力都在5G手機上,但是現在的5G晶片是不足以降低到1000元以下的,加上今年幾乎所有手機晶片都是5G晶片,所以,千元機晶片幾乎都是停滯不前的,這就是問題!那麼今年現在最好的千元機或者百元機是誰呢?
  • 全球5G手機最多的國家,美國2家,韓國1家,它給國人長臉了
    隨著2019年的到來,5G的大門也隨著而來,5G網絡不僅會給我們生活中帶來非常多的變化,而且,在手機數碼領域,5G網絡的到來也讓我們更加快速的享受著5G網絡所帶來的速度。雖然,根據目前從三大運營商得知的消息稱:在2019年三大運營商雖然會在全球布局和測試5G網絡,但是,2019年的重點還是放在了降費提速方面,而2020年才會是一個5G手機高速發展的時期。這也為什麼,之前有很多報導顯示:蘋果公司在 2019年並不會推出5G手機,反而要延後一年才會推出。那麼,在全球又有哪些5G手機廠商呢?
  • 2020 Google 開發者大會:多項 ARCore 更新帶來AR開發全新可能!
    比較當前的像素點的深度與之前渲染在這個像素的點的深度,如果已經有別的物體出現在更近的位置,那麼我們就忽略當前的像素點,這樣就實現了基於深度的遮擋效果。如上圖所示,我們使用藍色表示近處的深度,藍色越深表示一個物體靠近攝像頭越近,它的的深度值就越低。當我們啟用深度表示時,就可以看到桌子的深度比椅子所在的位置深度低,所以桌子就能遮擋住椅子。
  • 2020谷歌開發者大會:多項 ARCore 更新帶來AR開發全新可能!
    比較當前的像素點的深度與之前渲染在這個像素的點的深度,如果已經有別的物體出現在更近的位置,那麼我們就忽略當前的像素點,這樣就實現了基於深度的遮擋效果。 △ SJ Labs 通過 AR 標記協助指引旅客們在斯德哥爾摩中央車站內行進 這一技術,讓許多人以城市真實環境互動的沉浸 AR 應用及遊戲得以實現。例如 MARK,是由 創夢天地和 Sybo 開發的一款AR社交應用,可以讓你通過智慧型手機,在現實世界中和朋友、粉絲共同發現、共同創作的和現實場景完美融合的AR塗鴉。
  • 百元降噪藍牙耳機QCY L2了解一下
    筆者經常在網上看到一種言論,認為越來越多的手機取消3.5mm耳機接口其實是和藍牙耳機廠商私下達成了合作,為了刺激藍牙耳機的銷量。當然這種說法自然是無證可查,隨便看看一笑而過。不過如今藍牙耳機的市場規模確實是越來越大,價格也動輒上百上千,讓普通用戶望而止步。
  • 冰點價格:海信A5C降到1449元,彩色墨水屏手機成閱讀首選
    如果說有什麼手機適合看書,那一定要先看看海信。這個品牌目前獨立支撐著閱讀手機市場,憑藉自家的墨水屏手機成為這個市場裡最另類的一員。當很多品牌還在賣傳統墨水屏電紙書的時候,海信的閱讀手機已經進化到彩色墨水屏,不過今天說的並不是海信A5 Pro CC版,而是比它更早上市的海信A5C,因為這款手機又便宜了。海信A5C是一款5.84英寸的閱讀手機,採用了彩色墨水屏方案。這款產品上市較早,而且只有4GB+64GB可選,但對於想要看書的各位來說已經足夠了。