虛擬實境VR人機互動中的輸入和輸出技術探討

2020-12-06 我是天邊飄過一朵雲

近年來計算機的發展趨勢之一是形態的多樣化與應用情境的複雜化,自然交互(natural interaction)日益成為人機互動的重要發展方向之一。虛擬實境(Virtual Reality,VR)是新興計算機形態之一,是自然交互的重要組成部分。2010年以來,隨著Oculus、HTC Vive、Google Glass、PsvR、Micro soft hololens等商用頭戴式顯示設備(Head- Mounted Display,HMD)的發行,虛擬實境、增強現實(Augmented Reality,AR)技術逐漸進入人們的日常生活。在應用方面,除了常見的VR遊戲、VR視頻以外,VR和AR技術在教育、軍事、醫療、商業等領域也有著廣泛應用。由此,人們對VR技術產生了不同於以往桌面顯示設備的需求,比如,高性能的VR系統應具有沉浸感、想像性和交互性特點(Immersion, Imagination, Interaction,3I)。這些需求促進了VR技術的發展。當然,作為一種新的人機互動形式,VR交互中還存在一些問題,需要我們注意並加以預防。下面就讓大家和小編一起看看VR技術的新發展吧。

1. VR中輸出技術的發展

與傳統的桌面顯示設備類似,視覺仍然是VR中輸出信息的主要模態,但也有不同於桌面顯示設備的需求,如解析度及像素密度、近眼顯示、視場角(Field of view,FOV)等。另外,為了增強沉浸感、提高VR交互的自然性,對於VR環境中其他模態(聽覺、觸覺)的信息呈現也有區別於傳統桌面顯示設備的需求。

(1)視覺VR中的視覺顯示至少在兩方面與傳統的桌面顯示不同:第一,顯示屏(鏡片)與人眼的距離更近;第二,兩塊鏡片呈現的內容不同,通過雙眼視差給人提供立體感。因為顯示屏與眼睛距離更近,對於同等質量的顯示屏,在VR中更容易觀察到像素點,畫質感相對粗糙、不真實,進而影響呈現效果。我們研究發現,在普通解析度的液晶顯示器、VR、AR上完成相同的閱讀任務,在VR上準確接收到的信息量大約是液晶顯示器的79%,在AR上準確接收的信息量大約是液晶顯示器的85%。如果在液晶顯示器、VR、AR上完成相同的快速閱讀任務,被試者在選擇選項時,在VR和AR上需要多花費約10%的時間,即反應更慢;如果想要在VR設備上得到相同的閱讀績效,VR設備需要配備不低於3K解析度的顯示屏。除了解析度以外,3D文字、AR環境中的文字疊加背景國也會影響VR和AR設備的閱讀績效。

在VR、AR環境中,用戶不再受物理顯示設備的範圍限制,可以在虛擬環境中同時放置多個窗口,如何設計多窗口布局將會影響交互的效率。我們研究發現,設計多窗口布局時需要關注切換距離與路徑,有中心布局(C-type)適用於低頻切換任務,無中心布局(NC-type)適用於高頻切換任務。我們優先推薦橫向布局,重視滿意度時推薦縱向布局,重視績效時推薦斜向布局。新的VR設備已經在提高解析度上取得了一些進展。HTC最新推出的Vive pro,組合解析度達到了2880×1600,已經接近3K解析度。實驗室的原型機最高解析度已經達到8K。

(2)聽覺在以桌面顯示器為主流顯示設備的時代,聽覺可以通過耳機呈現立體聲音效,來模擬環境中不同位置的聲音。在VR中,因為視覺信息可以以立體、360度環繞的形式呈現,所以視聽整合(audio visual Integration)變得更加重要。視聽整合對呈現虛擬環境中物體的深度信息具有重要作用。研究者將3D聲音信息作為主要線索來幫助使用者判斷物體的距離遠近,發現隨距離變化而調節聲音大小的3D信息能有效幫助使用者判斷物體距離,這種線索也能有效幫助使用者完成目標搜索任務。我們的研究發現,VR環境中的視聽整合對於深度線索的影響也體現在視聽不一致時,人們對視覺刺激的距離會偏向於聽覺刺激。我們的另一項研究發現VR動態背景下聽覺信息影響視覺搜索:當不同方位的聽覺信息影響覺察任務的反應時,如果聽覺信息與視覺目標的空間位置一致,則反應更快。

(3)觸覺傳統的桌面顯示設備一般沒有觸覺顯示,人們在日常人機互動中接觸的觸覺信息主要是手機的震動。觸覺信息對於視覺有障礙人群具有特殊意義。有一系列為特殊用戶群體設計的觸覺顯示設備,如Braille Display。觸力覺人機互動對於保證VR系統的3I特性至關重要,但是現階段的主流VR系統中觸力覺反饋仍然非常有限,成為制約VR交互發展的瓶頸。手和皮膚是人們的主要觸覺感覺器官,相應地,VR配套的觸力覺設備主要有手套和全身穿戴設備兩大類。其中手套設備更重視真實感的重現以及雙向信息流動,而全身穿戴設備專注於提供更好的沉浸感。例如電影《頭號玩家》中的男主角穿戴的就是一套覆蓋全身的觸力覺系統。由開源VR平臺High Fidelity與觸覺設備公司NeoSensory合作開發的觸覺夾克exoskin,其beta版設備帶有32個感覺馬達,覆蓋上肢和主要軀幹部位。Tesla Suit的全身穿戴設備融全身觸力覺反饋、溫度變化反饋、動作捕捉系統於一體,力圖為用戶提供VR環境中的真實感與沉浸感。

(4)多模態融合為了實現真正的自然交互,VR系統不僅要提供高質量的視、聽、觸覺信息,還需要不同模態信息之間有效協同,避免互相干擾,力求達到融合、互補。我們研究發現,(1)在每次呈現1bit信息的情況下,視、聽、觸模態呈現信息的效果沒有顯著差異;在每次呈現2-4bit信息的情況下,視覺呈現信息的效果明顯優於聽覺和觸覺。(2)聽覺最適合呈現的信息形式是時間的長短,觸覺最適合呈現的信息形式是方位信息。(3)在快速連續呈現信息的條件下,多模態冗餘信息沒有表現出相對於單模態的增益效果(multi-sensory enhancement)。在VR環境中,除了視聽整合,還要求實現視聽觸整合:同一物體的視、聽、觸的信息要在空間和時間維度上都保持一致,才能實現讓人滿意的整合效果。

2. VR中輸入技術的發展:

設計師和工程師自計算機誕生以來,從未停止對更加自然的交互形式的探索。從最早的穿孔卡開始,經過鍵盤滑鼠,再到觸摸板和觸控螢幕,交互方式在不斷進化。VR、AR的出現讓計算機顯示從有限尺寸的屏幕發展到沒有實體屏幕,這也要求我們進一步去發現新的交互方式。

(1)動作捕捉動作捕捉技術,即以某種解析度捕捉對象的大規模運動,在VR交互中也扮演著重要角色。動作捕捉主要有電磁、機械、聲學、光學和慣性式運動捕捉。其中,光學運動捕捉系統會監視、跟蹤捕捉對象上的特定光點。慣性式動作捕捉系統,如Xsens MVN和3DSuit,主要通過把慣性傳感器設備(如加速度計、磁感應計和陀螺儀等)固定在重要節點上來實現。算法上的新進展,如機會計算模型(opportunistic computing model)、類增量隨森林、深度學習叫等方法可以有效提高動作識別精度,對於大規模數據的泛化能力也得到了提高。

(2)移動移動是非常重要的交互,但是現實世界的空間往往是有限的,為了實現在虛擬空間中的無限移動,讓用戶在虛擬環境中可以不受限制地行走,還需要外接設備—例如萬向跑步機。萬向跑步機利用動作捕捉技術,將用戶的行走、轉向等產生位的動作轉化成用戶在虛擬環境中的化身的相應運動,讓用戶感覺自己在走動,但實際上是原地踏步。其他類似的外接設備使得VR效果更逼真,比如商場中常見的蛋椅9DVR、VR多人聯機產品、迷你VR綜合樂園、移動VR體驗館等。

(3)手勢、眼動、腦電VR/AR交互的主要輸入方式包括語音、手勢、控制器(手柄)以及傳統的鍵盤滑鼠等,另外還有正在發展中的眼動、腦電等輸入形式。AR眼鏡,如HoloLens,支持簡單的手勢交互。更專業主流的手勢識別設備主要有Leap Motion。另外,在VR、AR中輸入文本是一個難題,設備自帶的輸入方式效率非常低。一些新的輸入技術可以提高VR、AR中的文本輸入效率,如頭動輸入、空中打字、單維手勢輸入叫等。用眼動來實現交互,通過捕捉眼球的運動,計算出注視點,並配合眨眼等動作實現對設備的操控。Google Glass就可以靠眼動來操控,而在HoloLens和配合手機使用的VR設備(如Google Cardboard)中,眼動技術仍然是一個難點,目前只能通過頭動來操控。將腦電技術應用於VR,通過可攜式腦電設備收集腦電信號,並由特定算法將生理信號識別為意圖(如情緒識別)並實現對其他設備的控制最終以腦機接口的形式進行意圖的輸入,也是發展方向之一。

3. VR在社交領域的發展

演化中的合作關係奠定了人類的社會屬性。VR技術的發展,必定會影響人們的社交形態。作為一種新興的媒體,VR環境既更新了媒體傳播的形式又豐富了媒體展示的內容。兩方面的發展讓虛擬環境下的社交形態更加多樣化,但可能引發一些新的問題。社會交往中,個人的身份構建(identity construction)是一個核心問題。在虛擬社交環境中,一個人可以體驗不同的身份,這種身份可能是跨職業跨年齡、跨性別甚至是跨物種的。不受限制的身份跨越,會引發大量的倫理問題。除此之外,多樣的身份體驗也會直接對個人的自我認知造成影響,反向作用於真實世界的社交行為,並有可能刺激多重人格的差異化發展。在虛擬世界中,社交環境是虛構的,但用戶是真實的,虛擬社交會直接影響現實社會。因此,虛擬社交中的成人因素和暴力因素需要被妥善監管。現有的媒體研究表明,影視作品中的成人因素和暴力因素會對觀影者造成較大的影響,而VR環境中沉浸感更強,這類影響將進一步擴大。不受規範的虛擬社交很大可能導致現實世界中的反社會行為,這對於青少年可能更為嚴重。

虛擬世界的社交是會促進人們的社會交往還是會導致更嚴重的社會孤立呢?從好的方面講,對於不能進行面對面交流的情況,相比於傳統媒體,VR可以提供的信息更加豐富。除了圖像、語音之外,交流中重要的肢體接觸、環境烘託都成為了可能。虛擬社交能很好地作為真實社交的補充。但是,過分沉迷於虛擬社交,可能會導致對真實社交的忽略,造成社會孤立。這一現象在社交媒體出現後已有體現,而沉浸感更強的VR社交有可能將這個問題放大。虛擬世界也可以發展親社會的社交:通過虛擬社交的方式增強使用者的同理心、同情心以及合作精神,改善他們在真實社交場景中的表現。總的來說,VR技術會帶來社交方式的變革。這種變革是一把雙刃劍,它具體會產生怎樣的影響還要取決於人們的使用方式,規則的健全程度等因素。

相關焦點

  • VR科技:虛擬實境技術的概念及特徵,虛擬實境系統的分類
    虛擬實境(Virtual Reality),是以沉浸性、交互性和構想性為基本特徵的計算機高級人機界面。它綜合利用了計算機圖形學、仿真技術、多媒體技術、人工智慧技術、計算機網絡技術、並行處理技術和多傳感器技術,模擬人的視覺、聽覺、觸覺等感覺器官功能,使人在計算機生成的虛擬境界中,通過語言、手勢等自然的方式與之進行實時交互,創建了一種適人化的多維信息空間。
  • 體感交互技術在虛擬實境中的應用
    目前,上海曼恆數位技術有限公司字已成功研發了國內首套體感交互的虛擬實境技術,解決了虛擬交互過程中需要佩戴複雜動作捕捉設備的局限性。該項技術是將一種關鍵體感交互設備Kinect與曼恆數字自主研發的虛擬實境平臺進行了完美融合,據悉,這一技術將於今日正式發布。
  • vr又稱靈境技術,是模擬虛擬環境中角色的真實表現
    vr在虛擬環境中構建交互虛擬世界,運用真實的人機互動手段,創造和構建具有真實感和臨場感的虛擬世界。vr裝置類產品目前主要涉及電商,醫療健康,新零售,廣告,旅遊,房產等行業領域。通過vr設備獲取用戶的真實信息,並通過ar立體化技術將用戶的信息3d化,再根據需要列印成vr產品,產品可擺放在用戶面前就可以直接觀看和使用,用戶可根據需要進行身體和頭部的轉動和旋轉,且隨時可以攜帶。主要用戶可以在遊戲中打怪,聽音樂,與虛擬世界中的人進行交互,獲取虛擬世界的信息反饋等等。通過「vr+ar」這一創新營銷模式,可以實現消費者體驗到ar應用的內容,ar應用可使消費者感受到真實的虛擬的感覺。
  • vr虛擬實境技術原理是什麼
    現在VR越來越火了,既有價格幾元錢的眼鏡盒子,也有幾千塊的VR一體機等等,讓人很是詫異,那麼到底vr虛擬實境技術是什麼東西呢?vr虛擬實境技術原理是什麼?如何才能實現虛擬實境這樣聽起來似乎有點不可思議的技術?一起來看看下面對vr眼鏡的核心技術的詳細解析!
  • 人機互動系統現階段的發展狀況以及未來發展方向
    本文著重於在物理級別上進行交互的開發,並說明如何組合不同的交互方法(多模式交互),並探討每種方法如何提高性能(智能交互)以為用戶提供最佳界面。現有的人機互動物理技術基本上可以基於設備根據人類的感知進行設計和分類。這些設備主要依靠三種人類感官:視覺,聽覺和觸覺。視覺輸入設備是最常用的類型,通常基於開關或指示設備。
  • 荔枝寶寶APP正式上線,主推3D多維虛擬實境和人機智能交互
    荔枝寶寶APP正式上線,主推3D多維虛擬實境和人機智能交互   荔枝寶寶由杭州荔寶信息技術有限公司研發,是一款以「3D多維虛擬實境胎寶寶人工智慧交互系統」為核心技術的女性孕期指導性工具應用APP。
  • vr是什麼
    VR(Virtual Reality,即虛擬實境,簡稱VR),是由美國VPL公司創建人拉尼爾(Jaron Lanier)在20世紀80年代初提出的。其具體內涵是:綜合利用計算機圖形系統和各種現實及控制等接口設備,在計算機上生成的、可交互的三維環境中提供沉浸感覺的技術。
  • 一篇文章讓你找到國內外所有的虛擬實境實驗室
    北航虛擬實境新技術國家重點實驗室組織方:北京航空航天大學四個一級學科——計算機科學與技術、控制科學與工程、機械工程和生物醫學工程,聯合與深圳市易尚展示股份有限公司簡介:北航虛擬實境實驗室下設5個研究室:虛擬環境研究室、虛擬仿真研究室 、虛擬設計研究室、人機互動研究室、基礎理論研究室。
  • VR虛擬實境技術和AR增強現實技術的區別
    打開APP VR虛擬實境技術和AR增強現實技術的區別 海測之旅 發表於 2020-03-23 10:50:21 它通過技術系統生成虛擬環境,用戶通過計算機進入虛擬的三維環境, 通過人的視覺 、聽覺、嗅覺和觸覺器官與人體的自然技能感受逼真的虛擬環境 ,身臨其境地與虛擬世界進行交互作用,乃至操縱虛擬環境中的對象, 完成用戶構想的各種虛擬過程 。 增強現實(augmented reality),簡稱AR,是一種實時計算攝影機影像位置及角度,並輔以相應圖像的技術。
  • VR市場格局、產業鏈、發展前景,最詳細的虛擬實境行業報告
    1、2015年中國虛擬實境行業發展概況分析   虛擬實境指採用計算機技術為核心的現代高科技手段生成一種虛擬環境,用戶藉助特殊的輸入/輸出設備,與虛擬世界進行自然的交互,提供用戶關於視覺、聽覺、觸覺等感官的模擬,讓用戶如同身歷其境一般。 其核心特徵是沉浸感、交互性和想像性。
  • VR和AR的未來發展
    vr/ar的應用什麼是虛擬實境?虛擬實境技術(vr)是一種能夠創造和體驗虛擬世界的計算機仿真系統,它使用計算機生成一個模擬環境,它是多源信息融合、交互式三維動態場景和實體行為的系統仿真,使用戶能夠沉浸在環境中,什麼是AR?
  • 虛擬實境VR的關鍵技術盤點
    打開APP 虛擬實境VR的關鍵技術盤點 今日頭條 發表於 2020-05-16 09:48:15   1、計算機圖形技術   用計算機生成、顯示、繪製圖形的技術被稱為計算機圖形技術。
  • vr稱靈境技術,是模擬虛擬環境
    vr是以視覺、聽覺、觸覺、嗅覺等感官為依託,全方位立體地感受虛擬世界,從而達到愉悅身心、增強記憶、放鬆思考、增強娛樂和行動等目的。vr遊戲,是利用3d成像技術、計算機生成技術、傳感器技術和網絡通信技術將虛擬世界無縫轉換為現實的過程。
  • 增強現實(AR)和虛擬實境(VR),你知道區別嗎?
    一、AR和 VR的定義增強現實技術(Augmented Reality,簡稱 AR),是一種實時地計算攝影機影像的位置及角度並加上相應圖像的技術,是一種將真實世界信息和虛擬世界信息「無縫」集成的新技術,這種技術的目標是在屏幕上把虛擬世界套在現實世界並進行互動。
  • vr眼鏡多少錢vr眼鏡有哪些品牌
    現在vr行業發展越來越快速了,憑藉著相對真實的遊戲體感,這也成了很多遊戲玩家的喜愛,VR眼鏡作為新興的科技設備是必不可少的,那麼vr眼鏡多少錢呢?還有vr眼鏡有哪些品牌?vr眼鏡有哪些虛擬實境眼鏡VR頭顯設備是一個跨時代的產品,是藉助計算機及最新傳感器技術創造的一種嶄新的人機互動手段,不僅讓每一個愛好者帶著驚奇和欣喜去體驗,更因為對它誕生與前景的未知而深深著迷,那麼vr眼鏡多少錢一個呢?
  • 虛擬實境(VR)實驗室建設
    當虛擬實境應用於教學教育中是一個質的飛躍。它營造了「自主學習」的環境,由傳統的「以教促學」的學習方式代之為學習者通過自身與信息環境的相互作用來得到知識、技能的新型學習方式,在軍事、能源、醫學、建築、工業、藝術等很多領域都得到了廣泛的應用。
  • 中國工程院院士趙沁平:虛擬實境 讓生活更精彩
    用戶藉助頭盔顯示器、數據手套、運動捕獲裝置等必要設備,與數位化環境中的對象進行交互,產生親臨環境的感受和體驗。廣義的虛擬實境還包括增強現實、混合現實和增強虛擬。增強現實是將計算機生成的數位化對象疊加在視頻圖像或現實環境之上,向用戶呈現出一種虛實結合的新環境;混合現實和增強現實類似,只是前者中的計算機生成對象與現實環境對象可區分,而後者難以區分。
  • 技術科普:VR、AR、MR的區別
    增強現實(Augmented Reality,簡稱AR),也被稱之為混合現實。它通過電腦技術,將虛擬的信息應用到真實世界,真實的環境和虛擬的物體實時地疊加到了同一個畫面或空間同時存在。 什麼是混合現實?
  • Facebook演示VR虛擬化身的逼真眼神、表情組合
    (映維網 2020年07月06日)遠程面對面交互對於工作、娛樂和人機關係都十分重要。儘管這種面對面的交互可以通過2D視頻會議或虛擬實境實現,但遠程呈現系統無法正確呈現眼神接觸和社交注視信號的交流。有人曾提出通過在2D視頻會議中重定向視線來實現眼神交流,但2D視頻會議缺乏真實生活中的3D沉浸感。
  • 輸入法AI賦能,帶來更多的創意和想像,極致的人機互動,你愛嗎?
    說起輸入法,眼前一亮的就是功能機時代的按鍵模式,記得那個時候買會手機都是奢侈的,並且鍵盤反饋也不是很好,後來慢慢演變成觸控螢幕,但是由於觸控靈敏度非常差勁,就導致了實體鍵和,觸控螢幕共同存在,我覺得這是一種妥協,但是隨著時代的發展,社會的進步,科技的不斷完善,智能輸入法走進人們的生活,