去年,光學專家Karl Guttag曾在一份在SID顯示周上展示的論文中,發現了關於索尼在線下AR遊戲項目:《捉鬼敢死隊新人訓練》中使用的一體式AR頭顯的許多細節,包括:圖像源採用高亮度MicroLED,解析度達1280x768。當時,他曾推斷這款AR頭顯並非採用光波導模組,而且為了保證戶外場景的顯示效果足夠保真,還採用了LCD遮光罩。
而近日,國際光學工程學會(SPIE)也公開了索尼曾在1月的會議上發布的相同論文,以及索尼AR科研人員Hiroshi Mukawa在大會現場對於上述AR頭顯的進一步詳細解析。據悉,原來該頭顯確實採用了MicroLED圖像源,而搭配的光學元件則為光波導,遮光罩部分採用了可調光設計,可將透光度在10%到70%範圍內進行設置。
此外,Mukawa還解析了這款頭顯所配備的多種元件,包括:立體攝像頭、6軸IMU傳感器、光波導元件、耳機、可調光裝置、定製化SoC(用於計算頭部姿態、深度、手勢、AR定位、3D視覺等)。定製化SoC是索尼全新的技術,其中包含一個基於ARM核心的CPU(Linux系統)、VPU(實時視覺處理單元)、獨有的實時作業系統、GPU和顯示控制器。
《捉鬼敢死隊新人訓練》AR遊戲
其特點是,透光度可調、支持空間音頻、手勢識別、實時多人AR內容共享、人體工學設計,它所採用的1:1前後配重設計,被越來越多AR/VR一體機所採用,好處是可提升佩戴舒適度、緩解頭顯壓臉問題。
這似乎一款功能足夠強大、設計足夠成熟的AR產品,讓人不禁期待索尼是否會在不久後向C端正式推出。當然,在那之前索尼可能還需要解決視場角狹窄、價格等方面的問題。不過不用擔心,畢竟索尼從事XR研究已經有二十幾年了,相信解決這些問題只是時間問題。
開發新款AR眼鏡的意義
Mukawa在SPIE 2020上,還分享了索尼在XR領域上的不斷探索(甚至是超前的探索)。他表示:索尼在1996年的時候,就已經推出了穿戴式AR觀影設備,後來在2011年,又推出採用MicroLED圖像源的3D頭戴式影院HMZ-T1。一年後,還推出了一款為聽力障礙人士設計的AR眼鏡,可以在看電影時顯示疊加的AR字幕。
2015年,索尼面向開發者推出分體式雙目AR眼鏡:SmartEyeglass,其主要用途是讓開發者去探索AR眼鏡的應用場景。這款眼鏡的外觀酷似現在的Vuzix AR眼鏡,分體式設計依然在被許多AR眼鏡使用,而且推出四年後Imagination Factory又利用這項技術開發了一款全息智能泳鏡模塊SwimAR,足以看出索尼在XR技術上的超前。
除此之外,索尼在2016年還推出了PS VR頭顯,隨後又推出了全息光波導顯示模組。
Mukawa指出,索尼在近25年左右一直在致力於XR產品的商業化,但在完整的產品布局中,一直缺少那種在室內外都可以使用,且具備像VR那樣豐富的交互和沉浸感的AR產品。就這樣,全新的AR原型機誕生了,它的流線型外觀延續了此前的3D觀影設備,黑白的配色頗有PS VR的特色。
那麼與以往的AR產品相比,這款全新的頭顯是如何實現豐富交互的?Mukawa表示:作為一款不受室內外環境限制的交互式、沉浸式AR頭顯,需要滿足4點——透光度足夠高、亮度足夠高、對比度和色彩鮮豔度足夠高、AR空間定位足夠精準。為了保證AR的畫質,用了MicroLED作為圖像源,而支持電子調節的遮光罩則將近一步強化對比度和鮮豔的色彩。
而為了提升AR疊加在真實環境上的穩定性(虛擬圖像的定位足夠固定,不破壞逼真感),也就是說達到位置不受AR頭顯移動而改變的效果,目前依然是行業內難以解決的問題。
索尼研發AR延遲補償方案
為了將AR虛擬圖像「固定」在真實環境中,降低定位誤差,索尼從時間延遲方向入手,研發出一種延遲補償解決方案,可將時間定位誤差從0.8°降低至0.7°。Mukawa表示:AR定位產生誤差的原因可能有三種:位置、時間和光學,其中主要由延遲造成的時間誤差是最大影響因素。
而造成延遲的原因,則是因為頭顯從預測用戶頭部姿勢,到渲染圖像的過程需要一段時間,Mukawa將其稱之為:預測到光子顯示延遲。為了降低這一延遲,索尼利用了時間扭曲技術,即預先渲染圖像,然後結合實時的頭部姿態預測,快速調整圖像位置。
Mukawa進一步解釋:除此之外,時間延遲還可從定位、渲染和顯示三方面進行分析。通過提升IMU數據採樣率,可降低定位延遲,而時間扭曲方案則可降低渲染延遲。另外,進一步的時間扭曲也可以在當前幀內降低顯示延遲。甚至可以多次應用時間扭曲來降低延遲提升效率,最高甚至可在一幀中應用十次以上。
為了支持更準確的定位和時間扭曲功能,索尼最新款AR頭顯採用了視覺處理單元,來降低延遲和時間跳動。
索尼下一款C端XR設備可能是PS AR?
可以看出,索尼為了開發功能完整、性能穩定、設計成熟的AR頭顯,下了不少功夫。與此同時,PS VR設備已經推出近4年時間,儘管其銷量已經突破500萬臺,但是它作為一款VR產品的年齡已經不小了,有許多功能和技術還有待得到更新(解析度、手柄定位等方面已經落後於Oculus、HTC Vive等其他主流VR頭顯)。
視場角示意圖(大約)
索尼能否會在PS 5推出之際發布第二代PS VR,一直是玩家們關注和期待的問題,然而索尼方面一直未正面回應。相反,卻亮相了這樣一款也可以用來玩遊戲的AR頭顯,讓人不禁猜測:索尼「PS AR」是否會在PS VR 2之前問世?
當然,儘管這款AR頭顯看起來已經足夠成熟,它還有一些需要解決的難題。Mukawa表示:在索尼營業基地、日本索尼公園限時開放《捉鬼敢死隊》AR遊戲後,很多體驗者對於AR和3D音頻的臨場感、畫質和亮度、多人協作趣味性等給予積極反饋。但同時,頭顯有限的視場角,也是常常被提起的問題。因為當AR內容超出視場角範圍後,會給人一種被切斷的感覺,影響體驗感,甚至可能會成為打開C端市場的一道門檻。
AR頭顯狹窄的視場角,一直是難以突破和解決的問題。同樣採用光波導技術的HoloLens 2,視場角也僅從上一代的30°x17.5°提升到43°x29°。總之,不僅對於索尼是一大難題,也是整個AR行業的難題。