uSens凌感王曉濤:這是手勢交互最棒的發展時機

2020-12-16 51CTO

【51CTO.com原創稿件】2017年7月21-22日, 以「人工智慧,不止於技術的革命」為主題的WOT2017全球創新技術峰會在北京富力萬麗酒店圓滿落幕。本次峰會為期兩天,30+人工智慧領域的一線實戰專家、BAT等企業技術大牛圍繞機器學習、人機互動、技術實踐等前沿技術話題展開深度分享。除了場內的精彩演講,場外還有專門為AI愛好者搭建的動手實驗室和科技體驗區,這一切都讓本次大會亮點十足。

uSens凌感中國研發中心高級研究員王曉濤在人機互動分會場做了《VR/AR中的交互技術》主題演講。演講結束後,記者採訪到了他,請他分享關於手勢交互領域的精彩觀點。

人機互動往往與硬體變革相伴相生

談到VR和AR,大多數人的***印象就是那些虛擬可視化設備,例如Oculus rift、Htc vive、PSVR、Hololens等。體驗過的人都知道,這些設備的確給人們帶來了很奇幻的感覺,並且佩戴越來越輕便,解析度越來越高,內容越來越豐富。可以說VR/AR設備已經日趨成熟,面向消費者並且開始普及。王曉濤指出,如今VR和AR發展外界看來似乎開始放緩,事實從業內看,從未停止,而且都是關鍵技術的推進。整個行業不僅僅依靠硬體設備,還需要很多其他的東西來支撐和完善。

王曉濤告訴記者,當人們回顧一下歷史就會發現,每次硬體產品重大變革都伴隨著革新的人機互動方案,並且趨勢都是向著更自然的方向發展。例如***臺臺式機Programma 鍵盤做輸入,紙帶做輸出;***款消費級PC Macintosh, 滑鼠做輸入,GUI界面輸出;大家都熟悉的***款智慧型手機 iPhone, 多點觸控輸入IOS界面輸出。「可以看出,隨著硬體產品的換代,交互方式也越來越方便,好用,並且也容易學習,不在需要熟記各種命令。那麼VR/AR想要成為新一代革命性的硬體產品,也需要全新的人機互動方式。」

那麼在人機互動的發展史上,有哪些裡程碑式的產品呢?王曉濤列舉了三款重要的產品。一是1965年的***臺臺式機(開創了商業機普及),引入卡片為輸出,鍵盤輸入;二是1984年Macintosh(開創了PC消費品市場普及),引入GUI輸出,滑鼠輸入(繼LISA後第二部使用圖形用戶界面,***應用到個人電腦,systemSoftware,MacOS);三是2007年iPhone(開創了智慧型手機消費品普及),引入multi-touch和iOS系統。

前景看好的手勢交互

據了解,VR/AR目前的交互方式可以說五花八門,各個廠商都在做各種嘗試和探索。王曉濤介紹到,有基於手持設備的手柄、操作杆的廠商如Oculus、 htc vivi、 psvr,也有基於觸摸板的Gear vr,還有基於磁電傳感器手套的諾亦騰、基於眼球追蹤的、基於語音識別的,以及基於裸手手勢的各類廠商。他認為每一類方式都有自己的特點,都有適合的場景和適用的內容,尤其是有的適用於VR環境,有的適用於AR環境。

在VR環境中,由於場景都是虛擬出來的,所以各種手持設備、傳感器等並不影響使用的感官,人們雖然看不到手裡拿著東西,但是可以習慣性的像使用滑鼠一樣使用這些交互工具。所以,在VR環境中,基於設備的交互方式目前處於主導地位,一方面是無論是在精度還是在穩定性上基於物理元件的方式更優秀,實現起來也相對簡單;另一方面也是各大廠商同時推出交互設備與匹配的交互內容,即賣硬體又賣軟體,有利潤驅動。

他告訴記者,在VR交互中,另一種方式就是手勢交互,原因在於,即使在虛擬世界裡,人們也要追求自然、便捷、靈活的方案,因為從PC到智慧型手機,人們已經幾乎丟掉了滑鼠和鍵盤,在新一代產品裡不應該再撿起附加設備。但客觀的講,自然手勢交互還處於技術攻關階段,還有很大多問題需要解決。但毋庸置疑,手勢交互更自然,對VR沉浸感來說,是至關重要的一個方面,在VR中更有帶入感,在大眾化市場中更有前景

不同於VR,在AR環境中,手是看得到的,並且AR中有手的真實使用需求,這導致AR環境的交互方式不能使用手柄之類的設備,更趨向於不影響手的真實功能的交互方案。那麼可選的就只有手勢、眼球、語音、腦電肌電這些稍微黑一點的科技,這裡面語音識別已經很成熟了,但是通過對話的方式來拖動某個東西是很違和的。那麼來看,從技術成熟度,適用範圍來看,手勢交互更有優勢。Hololens選擇的就是手勢的方案,其他的方式可以作為輔助,使得AR的交互更立體、便捷。「可以看到,手勢交互在VR中有前途,在AR中有地位,隨著技術的成熟,將會得到越來越多的應用。」

精準識別手勢是個技術活!

手勢交互並不是簡單地識別幾種固定的手勢,也不是跟蹤五個指尖,而是要在看得到的情況下,能夠實時識別出當前手的狀態,例如手型是什麼,角度如何,距離有多遠等等。

王曉濤透露,目前流行的是通過骨骼來模型化手,就包括關節點、骨骼的長度、骨骼間的角度。常用的量化模型有NYU的14個關節點模型、帝國理工的16關節點模型、MSRA21個關節點模型等等。不同方式表達量化的精度是不一樣的,通常用多少個自由度來刻畫手模型的精度,比如微軟的26個自由度。

「手勢交互關鍵技術基本包括,檢測、跟蹤、回歸、手模型優化一套整體的流程。」王曉濤舉例道,首先設備要能找到手的位置,識別出手的關節點,使得串聯起來的關節點像一隻手;其次找到手之後,需要確定各個關節的位置。他介紹到,方法有基於點雲匹配的,通過球模型或者球棍模型與檢測到的手的點雲匹配;也有直接回歸坐標點的,每個點有兩維或者三維,按順序給出所有點的預測值。

他還特別強調關於手的結構約束。這個技術主要有兩類,一類是分段式的,先得到各個關節點,通過後處理的方式使得鉸接在一起的關節點得到的手不是畸形的;另一類是end-to-end的,將手的模型約束直接融入到關節點回歸中,或者直接回歸3D手的pose等。他強調,這一環節十分重要,起著很明顯的作用。

手勢交互正處在***的發展機遇

當然,王曉濤也坦言,到目前為止手勢交互目前還有很多問題亟待解決,例如需要提高識別的精度與穩定性,算法萬年不變的話題。他舉了一個例子,在VR/AR環境中,人們要做到實時,不能佔用太多計算資源,有可能還是在移動端運行,並且算法是deep learning這種,算法的優化加速面臨極大的挑戰。

除此之外還需要解決視覺盲區問題、反饋問題等。以反饋問題為例,在AR/VR中手勢交互的反饋比較麻煩,人們沒有觸覺體驗,目前有通過設備提供觸碰感的,還有多元反饋機制,例如通過聲音等元素來營造氣氛。也正因如此,手勢交互還有很長的路要走。

王曉濤告訴記者,手勢識別已經發展了這麼多年,但是之前一直沒有普及開,以至於很多人開始懷疑這個***的真偽性,這是為什麼呢?因為以往的需求是假想出來的,例如希望用手勢代替滑鼠,代替遙控器,但是終究是可用可不用,並且有可能還不好用。一方面之前由於技術和計算能力的問題,手勢性能比滑鼠遙控器差,另一方面還是應用場景需求度低,體現不出來手勢的優勢。

「但VR和AR,對手勢來說,恰恰是一個好的時機,首先像我們前面說的手勢是AR/VR交互中優先級很高的交互方案,另外現在行動裝置的計算能力也變強了,可以說,與VR/AR結合,是手勢發展***的機會。」王曉濤十分肯定這一點。

【51CTO原創稿件,合作站點轉載請註明原文作者和出處為51CTO.com】

【責任編輯:

周雪

TEL:(010)68476606】

點讚 0

相關焦點

  • uSens凌感發布Fingo感知交互模組 全手勢操控
    網易科技訊8月24日消息,uSens凌感在京發布了Fingo感知交互系列模組,支持手勢識別、位置追蹤以及AR/VR的切換,並且開放SDK測試版並開啟預售。據悉,uSens凌感推出Fingo、Color Fingo、Power Fingo三種類型手勢交互模組,第一款Fingo一個雙紅外三維手勢交互模組,支持無需外設的26自由度手勢追蹤,視場角FOV140度,時延低於20ms,支持5-70cm的有效距離,能覆蓋人手臂自然伸長的距離。
  • 2018 uSens凌感科技年度漢字「手」
    進入到2018年尾聲,總結這一年,對於uSens凌感科技來說,其年度漢字非「手」字不可。2018年,對uSens凌感來說,是闖蕩市場,開啟三維手勢技術商業化的一年,是五年磨一「手」,出手顯鋒芒的一年。
  • Fingo手勢模式首次登陸Steam
    深圳2017年8月7日電 /美通社/ -- 首款Fingo手勢模式VR遊戲《Bomb U!》今日完成更新,正式上線Steam VR平臺。這款作品屬於塔防類休閒遊戲,是由中國遊戲商萌果遊戲開發,uSens凌感提供手勢交互技術。此前上線的HTC VIVE手柄模式下載量已過萬,高居國產VR遊戲海外下載榜第二名。
  • 2018中國人機互動及UI/UX國際峰會 uSens創新用戶體驗
    隨著科技發展一日千裡,人工智慧成為了革新人機互動的新起點,uSens凌感將解放人的雙手,讓人機互動在更廣闊空間得到自然化實現,那麼如何做到這些呢?10月16日,uSens凌感中國區總經理陳京波在上海2018中國人機互動及UI/UX國際峰會上給出了答案。
  • 開發與共享,uSens 賦能 Unite Beijing 2018
    讓參會者在為期三天的時間裡,全方位地掌握Unity最新的技術知識,交流開發經驗,把握行業發展脈搏,體驗全球知名廠商的前沿科技與高品質Made with Unity遊戲與應用帶來的震撼感受!ARCore、ARkit以及uSens凌感科技推出的手機AR引擎 – uSensAR紛紛亮相開發者大會。ARCore、ARkit 自不必贅述,作為安卓和蘋果代表性的,針對中高端機型的AR平臺受到市場非常多的關注度。而被譽為「黑馬」的uSens凌感科技卻低調了許多。據資料顯示uSens凌感是全球卓越的三維人機互動技術專家。
  • 超越HoloLens,凌感科技發布VR+AR設備 Impression Pi
    來自矽谷的創業團隊uSens3月12日晚,uSens進行了低碳新潮的Impression Pi微信首發會。凌感的COO時馳告訴雷鋒網,目前VR領域有三個技術難點:三維手勢交互,自內向外的位移檢測以及AR+VR(增強現實與虛擬實境疊加),目前世界上尚沒有一款產品可以同時解決上述這三個問題。而時馳表示Impression Pi可以做到。
  • 交互手勢的容錯性和邏輯性
    交互手勢是用戶操作的重要部分,交互手勢的設計好壞非常影響用戶體驗,那麼,交互手勢的設計上對於容錯性和邏輯性需要注意什麼?然而,我們可以發現由於不同產品的設計師對於用戶體驗的理解不同、交互層面的思考不同,導致設計的交互手勢也不同。有時同一種操作在不同的 APP 中交互手勢也是不統一的,這無疑增加了用戶的學習成本和記憶成本。
  • 晏志勇、丁焰章會見國家國際發展合作署黨組書記、署長王曉濤
    晏志勇、丁焰章會見國家國際發展合作署黨組書記、署長王曉濤 發布時間: 2020-08-21 10:21:33   來源:  作者:鍾洪明
  • 國家國際發展合作署王曉濤署長與巴布亞紐幾內亞對口部門負責人...
    2020年9月25日,國家國際發展合作署署長王曉濤與巴布亞紐幾內亞計劃和監控部秘書長薩繆爾、國庫部秘書長威利舉行視頻會議。王曉濤表示,自中巴新建交以來,雙邊關係發展迅速,發展合作成果顯著。中方願同巴新方繼續深入開展發展領域合作,為鞏固和發展雙邊友好關係做出積極貢獻。巴新方表示,衷心感謝中國政府一直以來為巴新經濟社會發展所提供的無私援助和支持,特別是中方提供的及時有效的抗疫援助。巴新方願繼續同中方密切合作,加強協調,實現共同發展。雙方還就有關具體合作項目充分交換了意見。中國駐巴布亞紐幾內亞大使薛冰出席了上述視頻會議。
  • 手勢識別已起步,要想厚積薄發還得先找準剛需
    但如果從深處究其原因,一個新興行業的發展需要有其自己的特色,而從行業開始吶喊VR至今,所強調的就是其強大的交互能力和沉浸感。但很顯然,交互不足、沉浸感不強,才是現在國內VR行業的真實寫照。對於一個憑體驗效果判定產品好壞的行業來說,概念打了太久卻一直無法實現,這可謂是致命的。心動手動,手勢識別是交互體驗最基本的需求「從當前行業發展情況及用戶需求來看,VR/AR頭顯廠商以及開發者對交互升級的需求越來越迫切,自然交互已經成為大勢所趨。而手部的跟蹤與識別技術作為自然交互的基礎,也因此受到了行業的廣泛關注和看好。」
  • 手勢交互方案、算法場景全解析
    因此,只要在搜索空間中找到令損失函數最小的 pose 即為所求的pose。但因搜索空間不能寫成解析形式,沒法一次性求出損失函數的最小值,通常只能用數值計算方法,如PSO,ICP等,不斷迭代計算得到最優解。
  • 聽聲辨位、手勢交互等,長安UNI-K這些智能交互亮點很牛
    而今日(1月15日),長安汽車未來美好之旅再度開啟,而這一次的主題是智能人機互動。無障礙人機溝通,無疑讓更多消費者對UNI-K更具好感。不一樣的導航,更安全從直播上我們可以發現,區別於傳統的出現於中控屏上的導航信息,長安UNI-K的導航信息卻出現在了儀錶盤上,讓人耳目一新。
  • 新研發3D交互手套會說話 未來可用手勢唱歌(圖)
    一名戴著手套的女歌唱家邊演唱邊做手勢,隨著手勢變化,3D交互手套發出高低起伏的不同聲音,原本女歌唱家的清唱變成一段二重奏,未來或可實現用手勢唱歌。在虛擬實境系統中,手是用戶模型中十分重要的動作與感知關係模型,而手勢則是3D交互任務和技術的手段。  3D交互式手套是溫哥華英屬哥倫比亞大學——西尼•菲爾斯(Sidney Fels)的最新科研成果,使用者只要戴上它做出各種手勢就可以合成為樂曲或一段話。據悉,費爾斯先前開發出「手套交談」系統,採用神經網絡將用戶手勢轉換成手勢語言參數,通過語言合成器合成為語言輸出。
  • 凌鋼股份董事長文廣:高質量發展是第一要務
    自2016年起,凌鋼股份開始在年報中披露噸鋼耗新水數據,2016年至2019年,這一數據分別是1.49噸、1.40噸、1.49噸和1.35噸。2019年凌鋼股份還進一步披露了噸鋼氮氧化物排放量,為0.75千克。
  • 手勢交互方案、算法和場景全解析
    因此,只要在搜索空間中找到令損失函數最小的 pose 即為所求的pose。但因搜索空間不能寫成解析形式,沒法一次性求出損失函數的最小值,通常只能用數值計算方法,如PSO,ICP等,不斷迭代計算得到最優解。
  • 魅族16全面屏「手勢導航」界面曝光 有mBack、手勢導航等交互方式
    據微博博主數碼閒聊站消息,其公布了一張Flyme新版界面的截圖,很有可能是魅族16的手勢導航界面。從截圖中可以看到,魅族16有mBack、手勢導航、安卓導航欄等3種交互方式。其中手勢導航為首次增加,而安卓導航欄有返回、主頁、多任務的三大經典按鈕。
  • 清華大學領銜,99 頁報告揭秘人機互動的發展狀況及未來發展趨勢|...
    近日,清華由清華大學人工智慧研究院、北京智源人工智慧研究院和清華-中國工程知識智能聯合研究中心發布了《人工智慧之人機互動》報告(以下簡稱《報告》),《報告》梳理了其概念定義和發展歷程,重點研究了主要技術的發展情況、領域專家現狀和應用領域,並探討了人機互動未來發展趨勢。
  • 清華大學領銜,99 頁報告揭秘人機互動的發展狀況及未來發展趨勢 |...
    2、發展歷程過去的幾十年間,人機界面經歷了從命令行界面到圖形用戶界面兩個主要發展階段的演變;近年來,人機界面的發展越來越強調交互的自然性,即用戶的交互行為與其生理和認知的習慣相吻合,隨之出現的主要的交互界面形式為觸摸交互界面和三維交互界面。
  • 測一測,這16個手勢幫你判斷寶寶發育狀況
    手勢不僅反映了兒童的想法,還反映他們明白自己正在分享自己的想法。16月齡:其他符號性手勢在16月齡時,其它象徵性的手勢會發展起來,比如「我不知道」、「擊掌」,甚至是通用的和平手勢。這一階段,手勢可以幫助兒童學習口語。
  • VR互動設計(二):虛擬世界交互進階——6DOF
    然而,VIVE在這一點上似乎做得不太徹底,其筆直的造型,並不符合人體自然狀態下的握持姿勢,並且操作過程中食指和拇指的位置,會使手部姿態變形,操作一段時間有疲勞感。並且側鍵較為隱蔽,對抓握姿態的考慮顯然不如後兩者。因此VIVE更像是一個為了完成VR交互而產生的功能性設計方案。當然,它的好處在於,對稱性設計導致其通用性極強。