騰訊多媒體實驗室劉杉:萬物皆媒的5G時代,多媒體打開新場景

2020-12-22 金融界

來源:經濟日報-中國經濟網

12月19至20日,由騰訊主辦的2020 TECHO PARK開發者大會在北京時尚設計廣場舉辦。在大會主論壇上,騰訊傑出科學家、多媒體實驗室負責人劉杉帶來了主題為《從視頻編解碼到互動沉浸式媒體》的演講,重點分析了視頻編解碼技術的演進迭代以及騰訊在新媒體及互動沉浸式媒體方向所進行的探索和嘗試。

劉杉表示,世界性的疫情讓很多領域的活動從線下轉為線上,而如何在保持高質量服務的同時降低網絡數據帶寬的壓力,向多媒體技術提出更高要求。騰訊作為一家網際網路科技公司,旗下的很多業務和多媒體技術密切相關,因此視頻編解碼技術是騰訊所必備的重要核心能力。

騰訊傑出科學家、多媒體實驗室負責人 劉杉

在多媒體技術革新方面,騰訊在不斷尋求突破。自2018年參與H.266/VVC標準制定以來,騰訊多媒體實驗室約有100項技術被標準採納,數量位居全球領先;為積極推動AV1商業化,騰訊雲於2019年11月率先成為中國第一家支持AV1轉碼的雲服務商;今年10月,騰訊在標準截稿3個月內在國內率先發布了H.266高清/超高清實時播放器。

在新媒體和沉浸式互動媒體方面,劉杉認為,隨著5G時代的來臨,深度沉浸式媒體廣闊的應用場景和商業空間將被全面激活,而沉浸式媒體技術與實時媒體傳輸技術結合,可以生成更多沉浸式應用。目前騰訊已上線多個沉浸式媒體解決方案,以滿足不同業務的開發需求。

在演講最後,劉杉表示,未來騰訊將繼續積極投入多媒體技術的研發,擁抱開源生態建設,為開發者和合作夥伴提供有效的服務和支持。

在展區,騰訊多媒體實驗室沉浸式媒體解決方案亮相,吸引眾多觀眾體驗VR360、點雲等3DoF到6DoF沉浸式媒體技術與產品。場外觀眾更可登陸Techo官方小程序,通過5G+VR360技術體驗會場實時動態,360度任意自由角度感受會展現場。

以下為劉杉演講實錄:

各位領導,各位同事,各位嘉賓,大家好。我是劉杉,來自騰訊多媒體實驗室。非常遺憾今天不能夠到現場,那麼我就通過視頻這個形式和大家做一個分享。今天分享的題目是「從視頻編解碼到互動沉浸媒體」。

去年的techo我做了一個「視頻編解碼技術與應用」的分享。那麼今天分享的第一個主要內容,我會和大家簡單介紹一下在這一年當中視頻編解碼技術的一些演進和迭代。在這之後,我會介紹騰訊多媒體實驗室和騰訊雲,在新媒體及互動沉浸式媒體方向的一些探索和嘗試。

今年是特殊和具有挑戰性的一年。世界性的疫情為我們的生活帶來了巨大的改變,教育、辦公、娛樂、銷售等領域的很多活動都因為疫情的關係從線下變為線上,多媒體技術則為這些雲服務提供了必不可少的支持。自三月以來全球視頻流量激增,網絡帶寬面臨巨大壓力,世界各地屢次出現因網絡壓力過大而導致的區域性斷網。歐盟委員會不得不約談netflix 等網絡影音服務商,要求在高峰期降低畫質,將寶貴的數據帶寬留給居家辦公和學習。有調查結果顯示,流媒體軟體市場加速增長19%,如何在保持高質量服務的同時降低網絡數據帶寬的壓力也為各項多媒體技術提出更高要求。

而與此同時,人們對視頻觀感質量的要求也在持續攀升。更高的解析度,更高的亮度和色度動態範圍,和更高的幀率等技術指標,配合VR360, Freeview等新媒體方式,在提升視頻觀感質量的同時,也對數據帶寬提出更高的要求。網際網路流量數據顯示,在2017年標清和高清視頻內容大約各佔一半,到了2019年標清內容佔比下降到大約1/3, 高清內容成為主流,超高清內容佔比開始攀升;預計到2022年超高清內容佔比會進一步提升到約總流量的1/4。同時,根據中國產業信息網,中國VR內容市場自2016年以來持續以每年2-3倍的速度增長。這些都使得視頻編解碼(即視頻壓縮)這一個已經存在了很多年的技術領域,即使在今天也依然具有其重要性和必要性。

而騰訊作為一家網際網路科技公司,旗下的很多業務都和視頻這一媒體形式密切相關,例如:騰訊視頻,微視,微信,QQ,教育,泛娛樂等等,還有在這次疫情中為在線教育和遠程辦公作出巨大貢獻的騰訊會議和騰訊課堂等產品。因此領先高效的視頻編解碼技術也是騰訊公司所需要和必備的一項重要核心能力。

簡單回顧一下,在過去三十多年裡,全球很多企業和研究機構投入巨大資源,研發了許多視頻編解碼技術,並形成了幾代視頻編解碼標準。其中主流的標準有: ISO/IEC和ITU 制定的國際標準,像我們熟知的MPEG-2, H.264/AVC, H.265/HEVC 和今年七月結稿的H.266/VVC. 騰訊於2018年初開始參與H.266/VVC標準制定,在歷時兩年多時間裡,向標準組織提交幾百個技術提案,其中約有100項技術被標準採納,數量位居全球領先。

與此同時,自去年正式加入AOMdia,成為進入AOMedia董事會的第一家中國公司以來,騰訊和其他AOMedia成員公司一起積極拓展開源生態,推動AV1商業化,騰訊雲已於去年十一月率先成為中國第一家支持AV1轉碼的雲服務商。在下一代開源視頻編解碼標準AV2制定方面,騰訊貢獻了大量重要提案,包括通用測試條件,AV2需求文檔等,並貢獻了大量技術,涵蓋了塊劃分,幀內預測,變換,量化,環路濾波等多項核心技術領域,累計貢獻壓縮比提升居世界前列。騰訊專家在AOMedia組織中和Google專家一起共同擔任技術孵化組主席,並和Facebook專家一起共同擔任軟體實現工作組主席。

我們也大力投入國標AVS的建設,推廣,和應用落地。目前騰訊雲支持AVS2和AVS3高清/超高清實時轉碼,我們也為電視臺等單位做了AVS私有化部署。

今年十月,在H.266/VVC標準第一版截稿僅三個月後,騰訊在國內率先發布了H.266高清/超高清實時播放器。這個播放器內置騰訊自研H.266軟體解碼器,可以支持高清、超高清以及屏幕內容分享等場景的實時解碼,各項性能指標國際領先。

大家現在看到的就是用我們發布的H.266播放器在播放標準測試序列。

每套視頻編解碼標準制定,都需要有一套標準測試序列,用來檢驗各項提案技術的性能,來幫助決定該項技術是否應當被採納進入標準。

騰訊的標誌性序列,同時也是對我們業務具有代表性的內容,王者榮耀,也被VVC標準納入測試序列集。

這個播放器目前已面向開發者開源。

騰訊雲積極投入開源社區的建設,同時也將騰訊先進的技術能力通過騰訊云為各個行業開發者提供服務。在產品設計上,不僅針對國內市場,騰訊對海外業務也有充分的布局與考量,針對海外OTT市場,騰訊雲打造了媒體服務系列產品,為國內產品國際化以及海外開發者和服務商提供充分的技術產品支持,媒體服務系列產品可提供RTP/HLS/DASH等8種海外常見流媒體協議,7天24小時全天候穩定直播服務,支持60多個國家和地區的本地化部署。

在科學技術迅速發展的今天,人們已經不滿足於只是觀看傳統二維視頻,而是渴望更真實更具沉浸感的體驗。而沉浸式媒體,通過實現物理世界和虛擬世界的融合共生,被認為是改變未來生活和工作方式的顛覆性趨勢之一。以VR為代表的沉浸式媒體內容市場在近幾年顯著增長,應用產業鏈迅速擴展,應用領域也越來越廣泛,滲透到例如文旅,教育,娛樂,醫療和製造等行業。預計到2025年沉浸式媒體市場規模發展可達到161Busd(1611億美元)因此更多的公司和廠家也正在加大沉浸式媒體技術研發和生產的投入。

更深度的沉浸式體驗,主要體現在真實場景的6DOF、更清晰和流暢的內容顯示、多通道交互等方面,依賴VR、AR、點雲、Freeview等核心技術,配合圖片、視頻、文字、聲音等傳統媒體格式,結合壓縮、傳輸、顯示、交互等環節,通過手機、電腦、頭戴式、大屏等不同設備進行最終呈現。從沉浸式應用場景來看,正在從面向個人娛樂的消費類市場深化發展到企業級市場的垂直行業應用場景。未來隨著5G的大規模普及,沉浸式媒體硬體及技術的進一步突破、製作成本的下降以及更多優質內容的開發,將推動沉浸式媒體產品和服務被主流群體採納,深度沉浸式媒體廣闊的應用場景和商業空間將被全面激活。

一個高質量高效率的互動沉浸式系統包含了從採集,處理,壓縮,傳輸,到解壓縮,後處理,渲染和交互等多個技術模塊。裡面包含的技術有例如投影,採集拼接,FOV,自適應傳輸等技術,涉及的傳輸協議有HLS, DASH, RTC等。因為沉浸式媒體內容的數據量比傳統高清/超高清視頻更龐大,比如這裡展示的VR360演唱會,和freeview 籃球比賽,那麼如何將所有這些技術模塊有效結合,綜合優化,對提供優質的端到端體驗就更為重要和關鍵。

將沉浸式媒體技術與實時媒體傳輸技術結合,可以生成更多沉浸式應用。比如,傳統的視頻會議只能採用單一固定鏡頭,視野和互動性都具有一定局限性。通過融入沉浸式技術,可以創造出三自由度和六自由度的視聽效果,結合虛擬會議室設置,為與會者提供更加全面的會議信息和更加豐富的會議體驗。

點雲是沉浸式媒體領域又一項具有代表性的技術,近兩年也正在得到更多的關注。點雲端到端系統包括點雲數據的處理、壓縮、模型重建和渲染、互動等技術模塊。騰訊自研點雲系統可以通過視頻、圖片、深度等信息進行三維物體和空間重建,可用於如會展和房地產等業務場景。由於點雲採用三維空間點陣的方式來表達真實物體和場景,可想而知構建一個高精度點雲模型所需要的數據量是非常巨大的。因而點雲數據壓縮也是點雲系統中不可缺少的一個環節。騰訊多媒體專家積極參與點雲壓縮國際標準制定並有技術提案被國際標準採納,同時擔任AVS點雲專題組聯合組長。

騰訊雲現已上線多個沉浸式媒體解決方案,包括VR視頻解決方案,騰訊臨境沉浸式解決方案等,以滿足不同業務的開發需求。騰訊臨境沉浸式解決方案可以提供完整空間建模能力,並支持H5頁面、安卓、IOS手機端、小程序端全平臺展示和分享。

我們已經逐步進入5G時代。5G網絡提供給我們超強的帶寬,超低的延遲,使得更多的應用觸手可及,也使得萬物互聯成為可能。在5G的影響下,媒體內容的生產,獲取和傳播方式都在發生變化。無論是4K/8K,還是VR/AR/MR/點雲,這些在過去因為受限於網絡帶寬的應用,在5G的推動下可能會迎來突破。騰訊將繼續積極投入多媒體技術的研發,擁抱開源生態建設,為開發者和合作夥伴提供有效的服務和支持。

謝謝大家。

相關焦點

  • 騰訊劉杉:專利梳理、應用落地和提升性能是當前VVC相關工作的重心
    在以「數位化升級,視頻通信雲賦能全行業」為主題的圓桌對話環節,騰訊傑出科學家、多媒體實驗室總經理劉杉、小鵝通CEO鮑春健、微幀科技聯合創始人、首席科學家Zoe Liu和騰訊雲視頻通信業務總經理李鬱韜,圍繞疫情背景下,音視頻通訊技術和產業的變化,以及如何相互促進等熱點話題進行了探討。其中,劉杉和李鬱韜分別就視頻編碼的下一步動作和後疫情時代下產業行業發展的趨勢問題做了分享。
  • 2020 Techo開發者大會召開,騰訊多媒體實驗室推出AI媒體內容生產...
    12月19日至20日,由騰訊主辦的年度技術盛會2020Techo Park開發者大會於北京順利召開。本次大會邀請了200多位海內外專家和和數千位參會者就人工智慧、多媒體等前沿技術話題展開交流。在視頻通信雲分論壇上,騰訊多媒體實驗室總監李松南進行了《智媒-多模態與內容生產》的主題分享。
  • 專訪騰訊多媒體實驗室商世東:咬咬牙也要跟上新版本的發布
    近日,騰訊多媒體實驗室高級總監商世東接受LiveVideoStack專訪,圍繞騰訊會議及其背後的故事進行了分享。以下為採訪實錄:1.2010年,我去了杜比實驗室,算起來是國內入職杜比研發團隊的第二個員工。當時負責整個杜比中國的工程團隊,差不多有五六十個人的規模。後來我又去了杜比澳大利亞,再後來,也就是2019年1月,我加入了騰訊多媒體實驗室,在音頻技術中心負責整個音頻團隊的建設、產品的技術路線規劃、技術的交互以及負責對多個產品,包括騰訊會議在內的端到端的音頻體驗,現在團隊(音頻)大概有20個人。
  • 透過騰訊雲,窺探神秘的全真網際網路
    沒有人願意被時代拋棄,可究竟什麼是「全真網際網路」,現在也沒有一個清晰的定義。此時,若透過騰訊的一些業務布局,或許可以窺探到馬化騰所說的新網際網路時代。 騰訊傑出科學家、多媒體實驗室負責人劉杉表示,騰訊於2018年初開始參與H.266/VVC標準制定,在歷時兩年多時間裡,向標準組織提交幾百個技術提案,其中約有100項技術被標準採納。 王慧星則透露,在H.266/VVC標準制定中,騰訊和華為兩家公司貢獻的專利,在中國是名列前茅的。
  • 騰訊Techo Park開發者大會召開,發布雲原生線路圖、雲梯計劃
    騰訊雲還重磅升級和發布了八款產品,以成熟穩定的服務方式,推動雲原生新技術能快速落地。目前,SuperEdge 已在騰訊雲 IECP、WeMake、WeTransport、WeCity和WeLink等產品和解決方案廣泛應用,落地場景覆蓋物聯網、工業網際網路、交通、能源、零售、智慧城市、智慧建築、雲遊戲、互動直播等。
  • 實地集團在多媒體技術國際頂級挑戰賽折桂
    6月30日,在多媒體技術國際頂級挑戰賽「ACM 2020 Multimedia Grand Challenge」上,實地集團憑藉強大的綜合實力,一舉擊敗其他來自中國、美國、新加坡和中國香港等國家和地區的150多家科研機構和企業,摘得大賽桂冠!
  • 西交利物浦大學多媒體實驗室論文被IEEE國際著名期刊收錄
    西交利物浦大學多媒體實驗室論文被IEEE國際著名期刊收錄 http://www.huaue.com  2012年4月24日  來源:華禹教育網   近日,西交利物浦大學多媒體實驗室論文
  • 多媒體大學到底怎樣?值得去嗎?
    多媒體大學(MMU)是由馬來西亞政府批准成立的第一所私立大學。學校建立於1996年由馬來西亞電訊公司(Telekom Malaysia)支持創辦。大 學因其現代化的實驗室和教學設施,新穎 的教學方法,高素質的師資力量及學術研 究活動而著稱, 是一所世界級的大學。
  • 臺灣光華多媒體設計科 將世界名畫融入中國文學
    臺灣光華高中多媒體設計科師生結合文學、設計、美術等課程,將世界名畫融入中國文學,書籍文本變身小劇場,整合學生創意思考、執行製作、合作學習、表達藝術美感能力,展現「閱讀素養」和「美感教育」的學習成果。光華高中多媒體設計科師生將世界名畫融入中國文學,書籍文本變身小劇場。
  • 騰訊Techo Park開發者大會召開在即,全球200多位專家共話雲計算
    12月19日至20日,由騰訊主辦的2020Techo Park開發者大會將於北京召開。據了解,本次大會將邀請全球超過200位頂級技術專家來到現場,和數千位參會者就雲計算、大數據和人工智慧等前沿技術話題展開深度交流。預計將有超過百萬用戶通過線上和線下方式分享這場技術的年度盛會。
  • 大咖說丨宮喜祥:萬物互聯、萬物皆媒時代正在到來
    當前,世界傳媒業正在經歷一場前所未有的大變革大調整,「四全」媒體深入發展,移動網際網路成為信息傳播主渠道,人工智慧深刻重塑新聞傳播的面貌,5G加速應用推動新的新聞業態呼之欲出,萬物互聯、萬物皆媒時代正在到來。伴隨這場大變革,媒體融合發展進入深水區、攻堅期,既面臨難得歷史機遇,又面對諸多可以預見和難以預見的風險挑戰,正處在實現全面突破、深度融合的關鍵節點。
  • 萬興科技與國際頂尖多媒體內容商Pond5達成合作 正版素材資源平臺...
    近日,萬興科技旗下數字創意素材資源平臺Filmstock還與國際頂尖多媒體內容商Pond5達成合作,聯手布局正版多媒體資源庫。國內不少用戶可能知道萬興喵影,但對Filmstock相對陌生。目前, Filmstock已擁有1400 萬+ 多媒體資源數量,以及特效資源包數量450+ ,正逐步成長為國內大型多媒體聚合服務平臺。 從正版素材資源擴充,到視頻剪輯軟體上新,以及上下遊合作布局等,萬興科技也正不斷深化其數字創意軟體業務發展。
  • 騰訊開源國內首個H.266/VVC視頻播放器
    當今時代,人們對於多媒體的使用需求越來越大,尤其今年受疫情影響,人們更加依賴視頻這一媒體形式辦公、學習、娛樂和生活,全球網際網路對帶寬的需求也激增,導致畫面質量不得不降低,這就對視頻應用的底層核心技術——視頻編解碼技術提出了更高的要求。
  • 大咖說|宮喜祥:萬物互聯、萬物皆媒時代正在到來
    當前,世界傳媒業正在經歷一場前所未有的大變革大調整,「四全」媒體深入發展,移動網際網路成為信息傳播主渠道,人工智慧深刻重塑新聞傳播的面貌,5G加速應用推動新的新聞業態呼之欲出,萬物互聯、萬物皆媒時代正在到來。
  • 新加坡電信將公用電話亭改造為5G多媒體亭
    新加坡電信官網1月5日消息,位於烏節道唐樓的標誌性公用電話亭已被改造為能夠提供5G連接的下一代多媒體亭,提供24小時的Singtel服務和免費的5G WiFi,並播放Love Nature的獨家4K內容。這些多媒體亭名為UNBOXED Lite,為了提供安全的環境,所有接觸表面都定期消毒,並塗上長效的抗菌溶液。
  • 軍史館多媒體公司_北京大格局價廉物美
    軍史館多媒體公司,北京大格局價廉物美,大格局總是不斷在為文化創意產業領域創造全新的教育方式和視聽體驗,並在這種不斷的創造中獲取永恆的價值,始終以領跑者的姿態屹立於行業的最頂端。軍史館多媒體公司, 一、數字軍史館數字軍史館光碟:將數字史館刻錄光碟,發放基層班排,供野戰部隊駐訓、執行任務學習使用。
  • 場景實驗室吳聲:個性規模化時代,新商業的出路在哪裡?
    每個公司誕生都是一個新物種,但每個新物種都有自己的生長原則。8月5日,在《新物種爆炸·吳聲商業方法發布2018》發布會上,場景實驗室創始人、造物學出品人吳聲發布了對未來新物種的六大預測。2.5次元:ZQSG「2.5」次元表達了二次元與三次元的次元壁被打破。「ZQSG」是「真情實感」的拼音縮寫,流行於飯圈,特別是95後的群體中。
  • 多媒體設計課程簡介 | MULTIMEDIA DESIGN
    多媒體設計,就是利用多媒體,以計算機為中心的多種媒體作為工具來設計作品,這些媒體包括文本、圖形、動畫、靜態/動態視頻和聲音等,並且,人們在接受這些媒體信息時具有一定的主動性、交互性。多媒體設計傳達的是視覺信息,因此在設計的時候需要遵從視覺表達的引導性,實現交互性,滿足審美要求,實現最大程度的人性化。
  • 騰訊安全雲鼎實驗室利用騰訊安全自主研發的系統到底是什麼
    騰訊安全雲鼎實驗室利用騰訊安全自主研發的「defylibrary」和騰訊安全開放雲平臺聯合打造了基於anyway.os的開源系統——anywaylab系統。騰訊安全雲鼎實驗室表示:「anywaylab計劃旨在面向未來企業級系統應用,開發高效、可擴展、安全的解決方案,創建跨運營商、雲計算、ai、5g、物聯網等多場景大生態,推動產業創新發展。」
  • AR/VR技術專家Arianne Hinds博士加入騰訊,擔任騰訊美國首席研究員
    來源:映維網 作者 吳羽樺騰訊日前宣布,艾麗安·海因茲(Arianne Hinds)博士已加入騰訊多媒體實驗室並擔任首席研究員。據悉,她將繼續從事沉浸式技術和多媒體技術的研究。艾麗安在沉浸式媒體擴展現實、光場面板、視頻和內容分發方面有著豐富的經驗,並擔任專注於標準化音頻、圖片編碼表示、多媒體和超媒體信息的國際信息技術標準委員會L3.1委員會的主席。艾麗安是MPEG委員會標準活動的長期貢獻者,她一直積極地參與與視頻相關的項目,並擔任探索光場技術的MPEG特設小組主席。