從DAU 5 萬到用戶數破億,揭秘騰訊會議增長背後的技術實踐

2021-01-09 騰訊網

作者 | 萬佳

10.5 個人開發的一款產品 ,在正式上線兩個月後,其日活用戶就超過 1000 萬。不到一年,它的註冊用戶就突破 1 億。並且,其國際版在全球超 100 個國家和地區上線。過去一年,它支撐了 3 億場會議。這是騰訊會議正式發布一年來取得的成績。

而一年前,騰訊會議才剛剛亮相,顯得平淡無奇。

2019 年 12 月 25 日,騰訊雲發布一款雲視頻會議產品,即騰訊會議,它致力於提升跨企業、跨區域溝通和協作效率,幫助企業節省人力、時間等成本。用戶可以直接通過手機、電腦、小程序等入口打開即用,一鍵入會。

產品發布後不久,疫情的到來促使企業和個人對遠程會議的需求增長,騰訊會議步入高速發展階段,駛入一條快車道。扛過疫情後,騰訊會議又不斷推出新功能,持續進行架構優化,提升服務質量。

回顧過去這一年,騰訊雲副總裁、騰訊會議負責人吳祖榕把騰訊會議最大的特點概括為「生於雲、長於雲」。某種意義上,「生於雲、長於雲」不僅讓騰訊會議有了一個堅實的技術底座,而且經受住疫情的考驗,甚至為其整個發展奠定了基礎。

一個 DAU 5 萬的小目標

騰訊會議最早可追溯至 2018 年 7 月,此時,這個項目正式啟動,前途未知。

「那時,我們要把最小的功能單元做出來,最大的壓力是團隊規模小,整個騰訊會議的開發團隊只有 7.5 個人。」吳祖榕在接受採訪時說。

2019 年 5 月,騰訊會議發布了 0.94 內測版本,總共使用了 10.5 個人,其中前端 8 個人、後端 1.5 個人、產品 1 個人。當時,騰訊雲投入 1.5 個後臺開發人員,花了兩個月時間搭建起整個騰訊會議的後臺體系,核心技術則來自騰訊雲原生的一系列技術組件。據悉,在基礎設施層,騰訊會議使用了騰訊雲的雲伺服器(CVM)和容器服務(TKE);在存儲層,用了騰訊雲的數據持久化(TDSQL);在邏輯層,使用了狀態數據緩存(REDIS)、日誌服務(CLS);在接入層,用上了騰訊雲的接入域名(DNSPOD)和負載均衡(CLB in TKE)。

吳祖榕表示,這極大降低了後端的開銷,讓後臺開發人員只需關注業務邏輯,保障整個業務的推出。「所有的技術組件都是由(騰訊雲)雲原生提供的,使得我們開發資源就像搭積木一樣。」他說。

並且,正是因為騰訊會議在早期充分使用了一系列的雲原生組件,也為其後續擴容提供了極大便利。

2019 年 12 月 25 日,騰訊會議正式對外發布,團隊當時定了一個小目標:希望在 2020 年底,騰訊會議的 DAU(日活躍用戶)可以達到 5 萬。如果在 2020 年底實現 5 萬 DAU 的目標,「我們覺得這就是我們今年最好的成績」。

上線兩個月,DAU 破 1000 萬

世事難料,在騰訊會議發布近 1 個月後,武漢封城,疫情形勢日益嚴峻。在武漢封城第二天,騰訊會議發布公告,面向用戶免費開放 100 人不限時會議功能。此後,繼續擴容,免費開放增加至 300 人。與此同時,大量用戶開始陸續湧入平臺,而騰訊會議在短時間內迎來海量用戶的快速增長。

2 月初,騰訊會議迎來巨大考驗。它的系統最初是為 5 萬 DAU 目標設計的,但是,在不到兩個月的時間,騰訊會議的 DAU 突然翻了幾百倍。

騰訊會議後端技術總監王彬在接受 InfoQ 記者採訪時說:「前期,我們系統投入的人力並不多,包括從產品到研發。此時,突然有上百倍的增長,這對我們的系統有很大的壓力。」隨著用戶量的不斷飆升,系統能否撐住變得至關重要。「2 月份,團隊停掉所有新的開發任務,唯一的要求是穩定「。

吳祖榕稱,穩定是最重要的。

2 月 3 日,即春節後開工第一天,隨著海量用戶的湧入,各大辦公軟體陸續「崩了」,騰訊會議也沒扛住。穩定是第一要務已經不言而喻。如何保證穩定,關鍵是擴容。2 月 10 日正式復工,這意味著騰訊會議只有 8 天的擴容時間。「復工復學第一天,我們就開始了夜以繼日的擴容」。

以前,騰訊談海量服務是「先扛住,再優化,周期往往是一個月或兩個月。吳祖榕表示,」到了疫情期間,這個周期縮短到 24 小時:白天,我們做大量的擴容,保障帶寬資源、伺服器資源等;夜裡,我們針對產品性能等問題做大量的開發、部署;凌晨,我們再對當天的所有變更、代碼優化做壓力測試」。

白天擴容,晚上優化,這 8 天是所有人壓力最大的時候。

8 天后,擴容 10 萬臺雲主機,累計有超百萬核的計算資源投入。

不過,對王彬他們而言,事情遠未結束。「我們的設備跟進了,但我的管理能力是跟不上的」。他打了一個比方,一個飯店以前一天接待 100 人,突然有一天,要接待 10000 人。

設備雖然得到擴容,但並不是事情就完成了,業務層面還有大量的細節需要優化和解決。擴容前,業務層只是一個幾十臺設備的集群系統,系統的管理和調度系統都比較簡單。擴容後,突然變成一個多地域,設備數達 10 萬級的集群,原有的調度和管理系統完全無法支撐這麼大的規模,需要快速優化和局部重構。

因此,這就需要他們做很多事,比如入口路徑規劃等等。具體說來,集群化管理上,完成 4 個普通 Set 和 2 個 BGP Set 的建設,這樣可根據業務發展情況,靈活調度和擴容。在接入和加速優化層面,利用騰訊雲在全球的 IDC 機房、數據節點和加速節點,騰訊會議完成了全球部署和接入,確保全球用戶的使用體驗。

除調度系統的優化外,還要梳理所有模塊的調用關係,明確係統的核心路徑,儘量簡化核心路徑,減少和取消核心路徑的外部依賴。

對於存儲層,王彬介紹,由於訪問量突增,同時需要確保低延遲的接口響應,將核心模塊的存儲從 MySQL 遷移到騰訊雲 redis,確保在高並發下系統的穩定性。為了發現系統瓶頸,他們也建立了一套分布式的壓測系統,每天凌晨進行壓力測試,從壓測中發現系統的瓶頸點,再快速的優化和改進。通過每日壓測,系統的同時在線服務能力逐漸從 100 多萬上升到 500 萬、800 萬在線。

在人力方面,他們同樣「壓力山大」,因為整個人力非常短缺。據王彬介紹,在騰訊會議 1.0 版本發布時,它的後臺開發只有幾個人。在疫情期間,雖然擴容了 10 萬臺雲主機,但是系統要調整,架構要優化,這也意味著需要有更多的開發人員。

人手不夠怎麼辦?他們一方面緊急招募新人和一些志願者;另一方面,向騰訊雲求助,騰訊雲兄弟部門則派了四五個團隊過來協助。

事實證明,騰訊會議的成功擴容和後續優化,不僅讓它扛住了復工後洶湧而來的巨大流量,而且經受住疫情的巨大考驗。

吳祖榕說:「你要能在 8 天擴容 100 萬核,你不長在雲上,做不了這件事情。如果是傳統的做法,完全沒辦法在這麼短時間裡調集這麼多伺服器資源、帶寬資源、技術資源等。這就是『生於雲、長於雲』背後最核心的東西。」

245 天,註冊用戶破 1 億

在疫情得到控制後,騰訊會議的第一要務從穩定變成了功能和服務質量。與此同時,它也從爆發期邁入穩定期。

這時,騰訊會議在技術上主要是持續打造自己的核心能力。首先,在音視頻的核心體驗上,「多方通信是一個帶約束條件的技術問題」,端到端通信需要在 400 毫秒內完成。如果時間小於 200 毫秒,效果會更好。

吳祖榕表示,「這個過程中,每增加一個新技術,就會帶來延遲,因為要運算、要處理,處理完之後再交給下一個環節。這一塊越長,鏈條越複雜」。

雖然約束條件是 400 毫秒,但是團隊在內部定的目標是在 200 毫秒內完成端到端通信。在這個過程中,他們做了許多事情。比如,語音方面,團隊專門採集很多噪聲,甚至還花費很多力氣去採集雨點打到玻璃窗上的聲音。

「有一天,我們正在開會,而外邊下起了大雨。因此,會議另一邊的人聽著非常嘈雜,他們問發生了什麼事情。這時,我們意識到雨點噪聲(對會議的影響)」。

除了雨點聲,團隊還採集了公交車開門的聲音、餐桌上吃盒飯的聲音、關門聲、水杯放在桌子上的聲音、咳嗽聲、微信消息提示聲和敲鍵盤的聲音等等。據了解,他們累計採集了上幾百種的聲音。團隊把採集下來的聲音作為噪聲,將經典信號處理與深度學習結合,通過 AI 訓練來實現降噪,目的是在開會期間安靜地把聲音傳輸給對方,提升整體的溝通效率。

另一個深入音視頻核心場景的技術實踐與椅子有關。當時,騰訊會議新出了一個功能,叫虛擬背景。因為疫情期間,人們在家開會時會打開攝像頭,但背後的畫面有時並不適合出現在攝像頭裡,因此就有了這個功能。

但是,這個虛擬背景最大的問題是椅子的頭枕,它會在後面凸出來,給人的體驗很不好。為解決這個問題,團隊採集了近 6 萬張帶有頭枕椅子的數據,給它們做標註,從而實現更好的虛擬背景效果。

「整個階段,我們圍繞『聽得清、看得清、聽得真、看得真』做了大量的努力。」吳祖榕說。除了音視頻層面,持續打造核心能力的第二點是後端技術。據騰訊會議後端技術總監王彬介紹,第一,他們做了系統服務化拆分,把「會管會控」拆分成主控、媒體網關、安全、權限、數據網關、消息、應用。「拆了以後,需求不用每次改個『大胖子』,消息的改消息,安全的改安全,這對整個服務的質量提升是有幫助的」。

並且,這樣做還可以降低維護成本和提升系統的運營質量,拆分出核心模塊和非核心模塊,則大大提升了核心模塊的穩定性和容災能力。

第二,在接入方面,他們建立分級的數據中心,完善後臺管理體系和調度系統,調度用戶就近接入和數據流閉環。以前,他們接入的機房均位於北京、上海、深圳等地,但這些機房的成本很高。那怎麼辦?於是,他們將全國數據中心劃分為三級:第一級為 DC,在北京、上海等地;第二級是 EC,位於成都、重慶、武漢等地;第三級是 OC,比如蘭州等地。「像成都等這些地方不比一線城市,它的成本會低一點。我成都的會就在成都開,接入成都的 IDC 機房」。

第三,在部署和運營上,他們從預發布、灰度 Set 到普通 Set 再到 VIP Set 形成一套完整的流程和體系。新版本正式上線前會有預發布,通過自動化撥測檢測系統的質量和可用性。然後,進入灰度 Set 階段,基於後臺管理體系評估灰度版本的質量,減少系統發布異常的影響範圍。經過灰度 Set 驗證的版本,在普通 Set 開始部署和放量。最後是 VIP Set,在普通 Set 驗證系統和功能的穩定性後,逐步部署到 VIP Set 中。

此外,他們還進行了流量優化、提升通信質量,等等。

現在,王彬他們正在做私有化系統建設。基於騰訊雲 TCS 平臺,由 TCS 提供雲基礎設施、中間件、資料庫等產品服務整合,涵蓋應用自動化測試、部署、升級、運維等,打造將業務快速私有化和交付的能力。同時,在功能上,支持超大型在線會議和更多的數據類型等。「現在,我們的企業版支持 2000 人開會,後面會支持更多的人,比如支持 10000 人、20000 人開會。」他說。

在騰訊會議正式發布 245 天后,其註冊用戶正式突破 1 億。

寫在最後:

雖然騰訊會議已經一歲,但是它未來的路還有很長。正如吳祖榕在採訪中所說:「至少在明年一年的時間裡,我們在會議上要補充的東西依然有很多,我們的路還很長很長。過去一年,你會發現騰訊會議的界面幾乎沒有變過,但是我們在每個版本上都迭代了非常多的細節,優化了產品。」

相關焦點

  • 富途控股Q3營收淨利均增超200% 富途牛牛註冊用戶數破千萬
    第三季度,富途營收、淨利同比增長均超200%,同時迎來多項業務裡程碑:富途客戶數破100萬、富途牛牛App註冊用戶數超1000萬及單季交易額破10000億港元。第三季度,富途總營收1.22億美元(約9.5億港元),同比增長272%,已連續三個季度實現同比三位數增幅。
  • 美圖(1357.HK)中報,收入近3倍增長背後的潛力還有多大?
    收入同比增長272%至將近22億人民幣,毛利增長484.4%,其中大家關注代表美圖未來盈利方向的網際網路服務及其他分部業務同比大增762%,佔總收入的比例從去年同期的4.9%增長到現在11.3%。具體來說,廣告收入同比增長219%,佔公司收入3.8%,更誇張的是增值服務及其他,同比增長了59.2倍,佔到了目前收入的7.5%。
  • 騰訊會議和愛的分貝加持,騰訊天籟行動發起「幫聽障兒童說出愛」項目
    從醫療救助到融合教育,為聽障家庭提供從資金支持、政策諮詢、就醫指導、康復教育培訓等多個方面的幫助。此次騰訊會議聯合愛的分貝發起的「幫聽障兒童說出愛」 項目,是騰訊天籟行動發布以來,面向聽障人士落地的又一個公益舉措。參與方式非常簡單,騰訊會議用戶只需捐贈2020年度會議時長,即可兌換愛心,就可一起幫助更多聽障兒童接受語言康復訓練。
  • 寒假變暑假,B站一季度用戶數與up主暴增,索尼這筆買賣沒白做
    嗶哩嗶哩付費會員增長情況宅家期間,有更多用戶付費成為B站大會員,以觀看更多專業內容,這對一季度整體月付費用戶數拉動明顯,達到1340萬,首次破千萬,同比增速134%是1Q19以來的新高。一季度用戶付費轉化率7.8%是IPO後所有季度中最高。說明新用戶質量不錯,沒有拉低存量用戶對該平臺的歸屬感。這是平臺變現的基礎。
  • 在線協同成為辦公日常,2020年超過3億場會在騰訊會議上進行
    12月25日,騰訊會議發布的2020年度報告顯示,過去一年有超過3億場會在騰訊會議上舉行,其中武漢人民最會開會,疫情期間每2個武漢人就有1個用過騰訊會議。同時,銀髮族成為線上溝通的新勢力,過去一年60歲以上的用戶開了超過1000萬場會。
  • 北水淨流入134.34億 騰訊(00700)股價破頂 內資增持逾49億
    原標題:北水動向(1.15)|北水淨流入134.34億 騰訊(00700)股價破頂 內資增持逾49億   1月15日港股市場,北水淨流入134.34億,其中港股通
  • 騰訊加速推進IPv6,QQ、微信即將完成IPv6技術升級
    基於在IPv6上的技術儲備,騰訊雲也將通過靈活過渡和智能雙棧的IPv6智聯升級解決方案,幫助企業用戶分鐘級平滑升級到IPv6網絡。工信部信息通信發展司副處長梅傑表示,推進IPv6規模部署是一項龐大、艱巨的系統工程。騰訊作為國內IPv6的實踐先行者,率先完成了一批典型網際網路應用的IPv6升級,期待騰訊雲全生態IPv6解決方案,引導和支撐更多網際網路應用和用戶向IPv6遷移。
  • 騰訊98億與迪士尼128億
    騰訊今年第三季度收入約98.25億美元,迪士尼2017財年第四季度營收127.79億美元,這兩大娛樂巨頭有哪些相似與不同?11月15日,騰訊公布截至今年9月30日未經審核的第三季度綜合業績。騰訊三季度收入652.1億元(98.25億美元),同比增長61%,環比增長15%;淨利潤180.1億元,同比增長69%,環比下降1%。
  • Instagram問世2周年註冊用戶數超1億 月增1000萬
    Instagram問世2周年註冊用戶數超1億 月增1000萬 《Instagram問世2周年註冊用戶數超1億 月增1000萬》文章已經歸檔,不再展示相關內容,編輯建議你查看最新於此相關的內容
  • 騰訊音樂Q3財報:新浪潮來臨,用內容增量和運營增量驅動付費向上
    迅猛增長的背後,一場融合了變革與發展的新浪潮正在來襲;而正在崛起的中國數位音樂市場,在漸生改變的環境中,呈現出了強大的增長潛能。成立三年來,騰訊音樂人已為音樂人帶來了超過5.9億收入,第三季度更是推出億元激勵計劃2.0計劃,為音樂人帶來更多激勵金及更多播放量扶持。這令音樂平臺作為「中臺」的連接、融合和釋放價值得以發揮,自下而上打造出提高用戶留存的內容競爭力,進而吸引用戶願意為好音樂付費。
  • 糗事百科回應被騰訊起訴:暫未收到通知 騰訊曾侵權
    騰訊《2016年第三季度手機安全報告》:廣東是第一毒省日前,一則「程式設計師藏身深山老林,編制11種木馬病毒非法獲利近5萬元,已致全國近萬臺手機中毒」的新聞曝光,讓很多人對「手機病毒」多了一份警醒。2016年第三季度,基於騰訊手機管家服務的騰訊移動安全實驗室,綜合Android平臺新增病毒包數、中毒手機用戶數、病毒查殺次數、感染地域分布等數據進行
  • 騰訊音樂:付費牆驅動1Q20音樂付費用戶增長 疫情打壓直播收入增長
    受益於用戶付費意願的提升,在線音樂付費用戶達到4270萬人,同比增長50%,付費滲透率從去年同期的4.3%提升至6.5%,ARPPU則同比增長13%。1季度向音樂人推出有更具吸引力的財務激勵計劃,拉動獨家授予公司的獨立音樂數量同比增長800%。基於深刻的用戶洞察與不斷提升的宣發能力,成功挖掘並推廣《少年》和《世界這麼大還是遇見你》等原創作品成為具有全國影響力的熱門歌曲。截至2020年3月底,這兩首作品在公司旗下平臺實現了總計近25億的播放量(截至2020年5月10日,這兩首作品已在公司旗下平臺實現總計近50億的播放量)。
  • 三季度財報背後:架構調整兩周年,騰訊轉型「仍須努力」
    保留原有的企業發展事業群(CDG)、互動娛樂事業群(IEG)、技術工程事業群(TEG)、微信事業群(WXG);新成立雲與智慧產業事業群(CSIG)、平臺與內容事業群(PCG)。當時的調整是為了讓騰訊在消費網際網路的基礎上,把業務擴展到產業網際網路。
  • 騰訊首部創作者記錄片《潮生》,深刻記錄「搞笑刺客」背後的點滴故事
    為記錄內容創作背後的故事與思考,致敬優秀創作者,騰訊內容開放平臺聯合騰訊新聞、騰訊視頻、騰訊看點與騰訊微視打造騰訊首部創作者紀錄片《潮生》。在最新一期故事《搞笑刺客》裡,將揭秘短視頻團隊「搞笑刺客」如何做到9個月內漲粉800萬、年視頻播放量破30億、單條視頻最高播放1.3億。
  • 騰訊閱文將合作發行30餘部動畫,《我叫MT》遊戲開發商12億賣身
    泡泡瑪特"雙11「銷售額1.42億,陰陽師盲盒單品銷售額破千萬元,劇本殺APP「百變大偵探」研發商獲3000萬元投資,《鬼滅之刃》劇場版躋身日本影史票房Top5... 作者:Katei 11月12日,騰訊控股發布了截至2020年9月30日的三個月業績。
  • 騰訊智慧零售母小海:未來2-3年,零售數位化的效能將迎來爆發
    「零售是最傳統的行業,全球零售行業的利潤率僅3%-5%,我們能夠真正幫助企業降本增效,提升企業的運營能力。」母小海在接受億歐專訪時提到,「目前零售行業整體的數位化和在線化水平處於初級階段,但提高這些能力,後期對於企業動能的提升有非常重大的作用。未來2-3年,零售數位化的效能,不同業態會有不同程度的爆發。」
  • 騰訊催婚,虎牙鬥魚各有多少「嫁妝」?
    當晚,原虎牙母公司歡聚集團就宣布將轉讓3000萬股虎牙B類普通股,轉讓交易總價為8.10億美元現金,這是繼今年4月騰訊行權並控股虎牙後,再一次提升其在虎牙的投票權,現已超過7成。整體來看,兩家的業績都算亮眼,本季度總收入與調整後的淨利潤均創新高,較去年同期有大幅增長。這是虎牙第11個實現盈利的季度,總收入為人民幣26.97億元(以下未註明均為人民幣),同比增長34.2%;非美國通用會計準則下,淨利潤達人民幣3.51億元,同比增長106.0%。
  • 雙十一半小時天貓成交3723億、9分鐘京東破2000億!你貢獻了多少?
    原標題:雙十一半小時天貓成交3723億、9分鐘京東破2000億!你貢獻了多少? 摘要 【雙十一半小時天貓成交3723億、9分鐘京東破2000億!
  • 快看漫畫獲騰訊融資1.25億美元,對話陳安妮:要做中國迪士尼
    從2014年12月成立至今,快看漫畫一共進行了五輪融資,從最初紅杉資本中國投資的300萬美元A輪融資到2017年由Coatue Management 領投的1.77億美元D輪融資,快看漫畫前四輪融資金額累積超過16億人民幣。騰訊投資完成之後,快看漫畫融資金額累積超過25億人民幣,IT桔子對其估值推算達到20億美元(約143億人民幣)。這個估值是什麼水準?
  • 騰訊劉熾平首談入股DST:布局全球但專注中國
    網易科技訊 5月12日消息,騰訊今日發布的第一季度財報顯示,淨利潤17.8億元,同比增長72.2%。騰訊總裁劉熾平、主席兼CEO馬化騰、代理CFO參加了晚上八點的分析師電話會議。