考拉上「雲」的431天:經歷了怎樣的「脫胎換骨」?

2020-12-05 天下網商

(天下網商記者 王安憶 黃天然)今年雙11,是考拉海購加入「阿里動物園」的第二年,其成績單備受外界關注。

加入阿里431天,考拉交出了一張漂亮的成績單:會員規模增長104%,刷新過往雙11紀錄。

很多人不知道,增長來之不易——2019年9月,考拉被阿里正式收購後,經歷了一場「脫胎換骨」:資料庫應用架構重新設計、百萬級節點的容器集群大規模遷移、數據中心從杭州機房遷移到上千公裡之外的張北、從基礎組件到中間件全面擁抱雲原生……

2019年9月29日阿里舉辦考拉入園儀式

在這一年裡,黑卡會員們買買買的同時,考拉悄無聲息完成了一場數字基礎設施的徹底換血。

如今,全站業務全部平穩過渡到阿里雲後,考拉已棲息在一棵長在「雲端」的參天大樹上。

一場大規模快速遷移

阿里收購史上,考拉體量不算最大,情況卻很特殊。

網易只出售了考拉的業務,卻沒有出售原本支撐考拉的數字軟硬體設施,比如物理機房、雲端資料庫等均不在其中。

因此,收購完成之後,考拉核心數據勢必迎來一場大規模快速遷移。

根據阿里預定的計劃,從2019年9月6日到2020年3月31日,為「考拉入園」後的半年整合期,考拉需要完成所有數據遷移,且業務不停服,一年之內,考拉需要完成雲原生的戰略升級。

焦灼的電商戰中,業務發展等不起,但這樣的速度,在阿里歷史上前所未有。

「原本的歷史數據和業務應用,就像是考拉的身體,現在我們需要給它換一個新的『大腦』,重新連接起原本的數據,但不能影響它正常活動。」阿里雲資深架構師吳明比喻道:「要以最快速度和最低成本完成這一任務,考拉上雲是最佳方案。」

吳明(左三)和阿里工程師們

這是一場與時間賽跑的遷移,阿里和考拉都出動了最出色的工程師。

然而,第一個問題就成了難關。

考拉數據遷移的目的地遠在河北省的張北數據中心,按照慣例,大規模數據遷移,都需要拉一根實體的網絡專線傳輸數據,如果從杭州鋪設專線到河北,施工成本以千萬計,關鍵工程量還特別浩大,根本無法在半年裡完成。

阿里工程師想到了一個好辦法——過渡時期,可以先將阿里雲杭州數據中心做接入口,然後在雲上做內部鏈路,雲端跳轉之後,考拉只需從網易機房鋪設一條通到阿里雲杭州數據中心的專線,就可以把數據遷移去張北。

張北數據中心機房

「最後只拉了5公裡專線光纖,工期一周,還把原本幾千萬的成本壓縮到了幾千元。」考拉上雲架構師伏見說。

很快,工程師們又遇到了新問題。

數據遷移要求打通阿里與網易的內網,可是兩家公司的防火牆都很結實,根本無法同時訪問兩家的內網帳號。

阿里云為此孵化了一個新產品——為考拉量身定製了獨立的虛擬私有雲(VPC),既可以讓兩家公司的網絡流暢互通,又能確保數據安全。

「這種全新的產品,原本開發周期需要一兩個月,但是為了讓考拉如期完成遷移,我們只花了一兩周就完成了開發。」吳明說。

「如果是線下機房,涉及到兩家公司的安全方案,很難實現這樣的模式,解決這一問題,也是得益於阿里雲可以快速靈活配置VPC的能力。」伏見說。

張勇來到寧波保稅區的考拉1號倉

網上協同挺過最關鍵時刻

今年1月底,考拉進入了緊張的數據遷移內測環節。

數據遷移一旦正式啟動,順利的話只需三四個小時,但要確保過程萬無一失,前期需要花幾個月測試和演練,從虛擬流量到真實流量,確保規避所有問題,才能正式啟動。

緊要關頭,疫情來了,600多位參與數據遷移的考拉工程師,春節之後被迫開始「雲辦公」。

「年初五就有同事打電話問我,年後大家不能去公司怎麼辦,要不要延遲數據遷移的時間?」伏見回憶。

伏見明白,一旦遷移推遲,考拉就會錯過今年第一波的3.8女神節大促,還要延長與網易機房的合約期限,導致成本上升。

大家在「雲辦公」時,還不忘加油打氣

「『雲上協同』有困難,但遷移不能延遲,無論如何也要頂著壓力扛過去。」伏見說。

雲辦公的時間裡,伏見成了最忙碌的「電話接線員」,有時候同時要開三個會議,手機開一個,電腦同時開兩個。

其他工程師大抵如此,都是接入多個會議持續通話,以保持「雲辦公」時集體操作的協調統一。

數百名工程師在雲上協同,哪怕一個環節沒確認好或是信息理解不一致,就可能發生誤操作,導致遷移後的應用功能出現差錯。

2月29日晚,所有測試完畢,考拉全站遷移阿里數據中心進入最後的關鍵時刻。

當時尚未全面復工,原本燈火通明的阿里西溪園區,大樓內空無一人。

將近凌晨12點,伏見與資料庫團隊和阿里雲的兩位工程師來到園區,在漆黑的夜裡點亮了大樓裡唯一一間辦公室。

他們負責在一線第一時間確認考拉數據遷移的執行進度,而考拉其他工程師們,則分散在全國各地,同時加入這場大規模遷移操作,每個人都凝神屏息,默默等待著關鍵時刻的到來。

大家製作了自己表情包,在群裡相互打氣

「當時非常緊張,遷移的操作列表,每一個都非常長,每一個操作步驟後的驗證步驟也非常長,需要很多同學配合做出精細化操作。一旦切到阿里雲時出現差池,會對用戶體驗產生直接影響,我們的目標就是零故障,因此必須非常謹慎。」考拉測試質量團隊負責人林兮說。

辦公室裡,伏見盯著大屏上的進度條一點點向前挪動,就像瞭望著一艘夜航巨輪,正在航道燈的引導下駛過暗礁險灘。

「其實演練過很多次,基本上不會出現問題。」伏見相信。3月1日凌晨3點40多分,進度條順利走完,數據遷移大功告成。

考拉團隊搬到西溪園區前的留念

全站切換至阿里雲後,考拉立刻進入驗證階段,一有問題,工程師們迅速跟進解決,1日當天,成功閉環98%以上的問題。

「那天,這個數據在群裡同步時,大家都很嗨,這可以算是一次『零故障』遷移了。」林兮說。

數據搬完家後,考拉立刻開始備戰3.8女神節大促,迎接考拉遷移上雲後的首個流量洪峰。

考拉團隊總結會後的留影

經過連續幾天的壓測和緊急擴容,3.8女神節當天,考拉的流量峰值,較2019年雙12增長了72%,而運行在雲上的考拉如磐石般穩穩地扛住了流量峰值,而且成本比之前大幅度降低。

考拉各業務線也在當天被證明已100%打通,形成閉環。

直到大促結束,吳明團隊沒有接到伏見的緊急電話,沒有消息,就是最好的消息。

每年節省2000萬元成本

3月31日,考拉如期從網易機房下線,鋪設在網易和阿里之間的5公裡光纖專線,在完成歷史使命後也順利拆除。

至此,考拉全面上雲、快速入園的任務,獲得了裡程碑式的成功。

圓滿完成第一階段目標後,考拉開始了全面的雲原生之路。

過去,每到大促前夕,考拉都要提前幾個月打申請,臨時購買伺服器擴容。

如今,藉助阿里雲的彈性計算,考拉可實現單日內的彈性收縮。

還有同城雙活數據中心,考拉過去一直想做。

在同個城市部署兩個數據中心的好處在於,可以在一個數據中心發生故障或災難的情況下,實現用戶的「故障無感知」。

考拉曾在2019年做過一套方案,發現建設這個能力需要8個月,成本高達上千萬元。

阿里早已嘗試過「同城雙活」、「異地雙活」、甚至「異地多活」,在阿里雲原生產品天然多AZ容災能力下,考拉在一個月內就完成了「同城雙活」的能力建設,具備了多AZ容災能力。

「工作被『搶』走了,我還挺高興的。」這是考拉運維工程師李斌的肺腑之言。

3.8女神節後,考拉用戶量大增,卻苦了運維的同學。

一直以來,考拉使用自建的ZooKeeper(分布式協調服務),一旦負載增大,某臺伺服器宕機後,就會自動選舉新的伺服器,這個過程中無法對外提供服務。

宕機伴隨的警報聲,可能發生在任何時間節點,李彬不止一次在凌晨恢復數據,而且釘釘群裡還有一線業務員「刷屏」式的催促。

伏見(左)

伏見發現阿里雲有一套MSE(微服務引擎),相當一個全託管平臺,找阿里雲問了兩句,對方工程師就拍著胸脯說,「沒問題的,以後的運維工作我們都包了。」

阿里雲的資源彈性能力和自動化運維技術,預計為考拉每年節省成本近2000萬元,同時計算性能提升20%。考拉也不再設立專門的運維團隊。

「開箱即用」的雲上產品,更像是一種共享經濟,而且阿里雲這些雲產品經過歷年雙11的打磨,解決過業界最難的問題場景和複雜度。

和阿里雲一起吃第一個螃蟹

2019年9月到2020年3月31日,歸功於阿里雲的成熟產品,「考拉遷雲」順利完成,考拉基礎產品負責人玄圈對這一過程的評價是「穩定」,但到了「考拉換樹」全面擁抱雲原生時,阿里雲一些「半定製」產品,卻帶來了一些新的挑戰。

吳明(左)和玄圈(右前)

在阿里雲的PaaS層系統中,有一個名為ARMS(業務實時監控服務)的中間件,可以通過實時監控系統運行指標,評估系統健康狀態。

AMRS最大的優點是改造成本低,一行代碼就能接入,原本的多數業務也不需要修改。但是ARMS也是個「考拉定製版」的產品,支持全鏈路壓測,上萬級節點體量的考拉,是第一個吃螃蟹的「自己人」。

第一次為伏見做ARMS介紹的人,是阿里雲架構師涯海,兩人一見如故。

考拉第一次接入ARMS時,也沒出任何問題。

考拉團隊給涯海(左)送花以表感謝

然而,恰逢考拉「55大促」臨近,考拉將100多個應用上線ARMS,沒想到卻發生意外,顧客購物時偶發無法下單,反覆出現「請重試」的提示。

伏見緊急回滾了百餘個應用的版本後恢復。

5月,考拉團隊進行壓測

發生故障後,涯海立刻從西溪園區趕往濱江園區,親自給考拉團隊道歉。沒想到考拉技術負責人朱靜波走過來安慰他,「這個主責算我們項目組的,歸伏見。」

沒想到,涯海後來趕去濱江的次數越來越多,尤其是「99大促」壓測,小問題聚集爆發。

壓測,就是把大促最高水位的壓力,持續不斷地在線上系統模擬。

好比一個人平時走200米沒有感覺,突然暴走2萬米,腎、肝、肺的問題都會在高壓下暴露出來。

涯海(右二)和考拉樣板間的同學們

在涯海和伏見看來,早點發現故障是好事。

雙方制定了作戰方案,例如從灰度環境再到線上環境,分多個批次上線等等。5個月,雙方共同解決了200多個問題,ARMS迭代升級50多個版本,終於走到了「老夫老妻」的狀態。

5月28日,考拉海購全面上雲

10月,考拉在ARMS上的業務一切穩定,「邊開飛機邊造引擎」的日子終於告一段落。

考拉也經受了雙11大考

很快,考拉又迎來了今年天貓雙11的壓測,玄圈專門帶了幾個組長,跑去西溪園區1號樓7層備戰雙11的「光明頂」,聽著雙11技術大隊長霜波站在臺上指揮,「第一輪壓測的目標是什麼,加多少流量……」

天貓雙11期間,考拉團隊的會議

考拉過去也做過雙11壓測,但玄圈發現,阿里在壓測中的功能預演、時光機(雙11零點的流量)等功能從前都沒用過,「阿里是把雙11零點所有的可能性,都壓上來了,沒有十多年的實戰經驗,不可能做到。」

10月21日,天貓雙11正式開啟,考拉也走進了李佳琦直播間,1秒賣出10萬張考拉黑卡。

緊接著是參與11月11日的大促,這也是考拉換樹後,第一次以會員電商的身份,參與阿里最大的項目。

11月11日零點剛過,天貓雙11的訂單峰值就達到58.3萬筆/秒,阿里雲再次扛住全球最大規模流量洪峰。

阿里巴巴CTO程立表示,繼去年核心系統上雲後,阿里巴巴進一步雲原生化,將每萬筆峰值交易的IT成本降低了80%,這些核心技術也正通過阿里雲向全社會開放。

今年雙11,雲原生幫考拉減少了250臺伺服器,節約成本約100萬/月,沉澱出一套落地實踐方案。

考拉在雲上的研發效率也大幅提升,例如使用阿里雲直播中心服務,考拉快速完成了海外直播服務從0到1的搭建。此外,「爬樹TV」、「Like社區」等新功能也相繼上線。

「阿里雲能把集團內部的業務完全上雲,本身就顯示出一種自信。」考拉技術負責人朱靜波認為,考拉雖是以樣板間身份在做嘗試,但云服務能力越來越完善,對考拉和外部企業的技術支持就會越好,「這本身就是一個相互成就的過程。」

相關焦點

  • 考拉的世界,也在經歷著病毒大流行!還好,醫生們找到了辦法
    每年被送到澳大利亞東部康復中心的300到500隻考拉中,大約40%患有衣原體在經歷了澳大利亞的森林大火之後衣原體,是一種由沙眼衣原體引起的性傳播疾病(STD),對人類和考拉都有影響;如果不加以治療,它會導致不育和永久性失明。抗生素治療人類衣原體的方法,也適用於考拉,但它們的成功率各不相同。某些類型的抗生素會產生嚴重的副作用,對這些標誌性的動物有害——比如破壞腸道微生物,使桉樹葉不能夠被消化(桉樹葉是考拉的主食)。
  • 從「買」到被「賣」這半年,網易考拉經歷了什麼?
    僅僅半年多前,網易CEO丁磊還在籌劃為考拉「買」下亞馬遜中國的跨境業務,以補足考拉的供應鏈資源。9月6日,網易考拉被以20億美元的價格正式「賣」給了阿里巴巴。儘管外界和考拉的員工不太理解,但這或許是賣掉考拉的最好時機,其業務依然堅挺,尚且有人接盤,及時止損起碼是個不算差的結果。
  • 阿里動物園再添新成員,20億美元全資收購考拉並領投網易雲音樂
    北京時間9月6日,網易與阿里巴巴共同宣布達成戰略合作,阿里巴巴集團以20億美元全資收購網易旗下跨境電商平臺考拉。同時,阿里巴巴作為領投方參與了網易雲音樂此輪7億美元的融資。作為同在杭州成長起來的網際網路企業,未來雙方將更緊密地合作,共同探索數字經濟時代的未來。
  • 從技術視角看考拉海購的雲原生之路
    阿里雲提供了消息隊列產品,如消息隊列 RocketMQ 版、消息隊列 Kafka 版等,應用實時監控服務 ARMS,微服務引擎 MSE,應用高可用服務 AHAS,性能測試 PTS,函數計算 FC 等中間件雲原生產品,為考拉海購從傳統應用向雲原生應用演進,打下了堅實的基礎。心路歷程我們在雲產品的接入過程中, 大致在心態上經歷了三個階段。
  • 考拉正式成為阿里動物園一員,網易考拉嫁阿里該怎麼看?
    阿里巴巴集團以20億美元全資收購網易旗下跨境電商平臺考拉,同時阿里巴巴作為領投方參與了網易雲音樂此輪7億美元的融資。據介紹,考拉將保持獨立品牌運營,天貓進出口事業群總經理劉鵬兼任考拉CEO。此前,丁磊曾對考拉寄予厚望,表態想做到1年2000億元銷售額。據啟信寶的數據顯示,網易考拉是網易無尾熊(杭州)科技有限公司,是網易旗下負責跨境電商的重要平臺之一。
  • 假如,考拉從地球上消失......
    而倖存的考拉,大多數都灼傷了爪子,在很長一段時間都需要戴上特質手套等待治癒。究竟有多少只考拉葬身火海呢?令人擔憂的不只是考拉和袋鼠,島上的黑輝鳳頭鸚鵡也沒能脫離火海。……世界自然基金會廣告,動物族群還剩多少,馬賽克就有多少用一個通俗的比喻來說,地球上的人類,就像是坐在小飛機上的一群乘客。我們現在所做的很多事情,就好比是把飛機上一些看似無用的東西扔出窗外,但我們扔掉的這些東西中,有些可能是維持這架飛機可以正常飛行的重要零部件。
  • 如果有一天,考拉從地球上消失......
    正面臨功能性滅絕,無數生命消逝考拉也叫樹袋熊,是澳大利亞的國寶,也是澳洲奇特的珍貴原始樹棲動物。不僅是考拉,還有同為澳洲象徵的袋鼠。相比動作遲緩的考拉,它們可以依靠強健的雙腳,迅速逃離危險的地方。2012年6月24日,一隻名叫喬治的平塔島象龜死後,當地的達爾文大道上一塊黑板上寫著
  • 假如,考拉從這個地球上消失了……
    如果火不嚴重,它們或許可以安全等待火勢退去,但火勢一旦嚴重,它們很可能因為過熱而掉到地上,然後在灼熱中艱難求生,救援隊們已經見到太多被燒焦的考拉屍體。而倖存的考拉,大多數都灼傷了爪子,在很長一段時間都需要戴上特質手套等待治癒。
  • 袋鼠島上考拉「人口過剩」
    但也有例外,比如最近一段時期,澳洲環保專家呼籲,採取人為幹預的方式在特定區域內限制考拉過度繁殖,以防止該區域生態環境遭到破壞。 這一「特定區域」是指南澳大利亞州的袋鼠島。該島面積約4500平方公裡,與大陸相隔約20多公裡,是澳洲著名旅遊勝地之一。顧名思義,袋鼠島上袋鼠肯定不少,然而更多的卻是樹杈上坐著的考拉。
  • 富途證券:阿裡重金收購網易考拉 雙方都是為了啥?
    富途證券消息:近日,摩擦了許久的阿里收購考拉一事終於塵埃落定,阿里巴巴宣布以20億美元全資收購網易旗下跨境電商平臺考拉。同時,阿里巴巴作為領投方參與了網易雲音樂此輪7億美元的融資。至此,阿里「動物園」又多了一個新物種——考拉,而此前已經有了貓、螞蟻、豬、河馬等多個物種。
  • 「天貓化」的考拉,還是考拉嗎?
    而從APP的內容上,「螳螂財經」發現,考拉已經開始逐漸天貓化了,它已經不再是原來那隻考拉了。1、美妝提升到第一順序曾經的網易考拉拳頭產品是母嬰產品,僅2019年就先後與雅培、合生元澳洲版、雀巢、貝親、昆塔斯等多家母嬰品牌達成戰略合作。母嬰產品佔據了曾經的網易考拉的大半江山。而網易考拉的對手天貓國際則以美妝為重。
  • 聽網易考拉「女神」講講,國民海購瘋狂增長的秘密是什麼?|科技生活...
    考拉想要創造怎樣的品質購物平臺?網易考拉到底施了什麼魔法,讓海購從此變得更性感? 在即將引爆上海的2017鈦媒體T-EDGE科技生活節上,特別的盲人攝影展將讓你在有所觸動、搖滾CEO 馮鑫將帶你暢想未來十年屏幕革命,那麼,在大伙兒最擅長的事——網購這件事上,網易考拉海購CEO張蕾將為你呈現電商行業精彩的幕後故事
  • 龍柏考拉動物園,世界排名前十的動物園,最早的專業考拉保育區
    門票我是直接在馬蜂窩上買的,可以自己提前列印好電子票或者去到售票處把電子票發送給工作人員的郵箱,他們幫忙列印即可。馬蜂窩門票地址:http://www.mafengwo.cn/sales/334234.html?
  • 去澳大利亞,看袋鼠和考拉
    第二座城市是凱恩斯,依然沒看到袋鼠和考拉。城市裡,看不到兩大國寶的真容,但是圖像卻無處不在。衣服、手提袋、店面招牌甚至國徽上,到處都能看到袋鼠的圖案,不時撩撥著孩子們的心。見不到活的,「死」的總可以呀!自從在一家購物店看到袋鼠和考拉的毛絨玩偶,孩子們就惦記上了,讓我們買。到了第三座城市布魯斯班,袋鼠和考拉的玩偶就到手了。兩個孩子,一人一隻。你猜,她們怎麼分配的?
  • 「睡神」再也無法安睡,考拉即將滅絕,將在2050年告別地球
    眾所周知,澳大利亞曾經歷過長達數月的火災,這肯定會給澳大利亞的動物的生存帶來一定影響。但是,問題是,澳洲大火真的是導致考拉滅絕的罪魁禍首嗎?你眼中的考拉是怎樣的?在了解考拉的生存狀況或者其面臨的危機之前,我們先認識一下這種動物。
  • 最近墨爾本海灘上有一群心事重重的考拉集體發呆。看後令人心酸
    發現考拉的海灘是墨爾本以西,大洋路沿岸的Apollo Bay,它屬於Great Otway國家公園。這裡的山脈中住著許多考拉。而最近人們在海灘上發現了可愛的考拉在遊走在沙灘上,在衝浪板上跳來跳去,坐在水中遊泳。
  • 悲慘的考拉:澳洲森林火災導致一個保護區的考拉死掉一半
    據路透社報導,大火已經導致生活在新南威爾斯州一個保護區的一半考拉死亡,今年早些時候開始的一連串火災,已經摧毀了這個自然保護區三分之二的動物棲息地。
  • 澳洲野火或讓數千考拉喪生,考拉醫院被「傷員」佔滿
    更讓人心痛的是,或讓數千隻考拉喪生。很多人擔心此次森林大火對生態環境影響是巨大的,澳大利亞環境部長蘇珊·萊伊(Sussan Ley)估計,30%考拉棲息地可能已遭至破壞,具體損失情況要等大火熄滅後才去統計。考拉名為無尾熊或樹袋熊,是一種性情溫和的原始樹棲動物,是澳大利亞人最喜愛動物之一,被視為是國寶。
  • 曲靖微科普--澳大利亞考拉或因大火成「瀕危物種」!這些考拉「冷...
    因其柔軟的絨毛、 憨厚天真的眼神、滑稽笨拙的動作, 像是擺在玩具店裡的毛公仔, 奇趣又可愛, 被譽為「世界上最可愛的動物」、 「從童話裡走出來的動物"。
  • 考拉的廣州幸福生活,長隆捐款百萬「救護」澳洲考拉
    2013年6月,Uki生了一場大病,當時是她交配後的第四天,洩殖腔開始出血,經過緊急搶救、治療,長隆獸醫採用了中西醫結合的治療方法,每日輸液加餵中藥;Uki當時不愛吃樹葉,飼養員就每日把桉樹葉打成糊狀餵給她,經過兩個多月的精心護理,Uki終於恢復了健康。