華為的遷移技術助力中信銀行ODS數據遷移

2020-12-06 IT168

一、中信ODS平臺介紹

中信銀行總行ODS平臺主要是對中信銀行的核心業務系統和一部分特色數據的海量數據進行存儲、處理和挖掘應用。首先在資料庫伺服器上對業務數據進行標準化處理,並存放在資料庫伺服器群集上,進行ETL 數據加工處理,並作為批量數據分發,對目標系統(如零售銀行數據集市)提供數數據。

中信銀行各分行為提高數據處理效率,直接將總行ODS 加工好的基礎數據和部分總行統一加工的匯總數據返還給分行,分行利用文件伺服器接收到總行數據後,轉載到分行ODS 資料庫。經過ETL 加工後的分行數據或數據集市將為分行信息消費者提供如報表、MIS 管理等應用服務,為給分行提供更好的信息服務。

二、中信ODS系統數據遷移介紹

中信ODS平臺建設時間較早,資料庫和GPFS文件系統存儲設備使用了2臺IBM的DS8300和4臺V7000,16年都面臨維保過期需要下線,需要將90T左右數據遷移到新採購的華為OceanStor 6800 V3存儲。

ODS平臺數據遷移特點:

1、環境複雜:

(1)主機類型及作業系統版本較多、較老、例如GPFS系統主機19臺分別為AIX(版本5.3,6.1)、LINUX(版本4.7,5.5)。

(2)主機多路徑版本涉及multipath、MPIO、SDDPCM等多個版本。

(3)遷移環境FC交換機的帶寬較低4Gb帶寬。

2、遷移挑戰:

(1)遷移時間窗口短,涉及主機多:在GPSF文件系統遷移涉及11臺LINUX系統、8臺AIX系統,需要同時重啟驗證更新多路徑接管新存儲。

(2)遷移數據量大:ODS資料庫系統遷移數據量40T需要在周六、周日兩天遷移完成,同時預留晚上23點到凌晨2點跑批時間,還要預留回退時間,總共遷移實施不到30小時時間窗口。GPFS文件系統數據量37T也只有在周六、周日2天遷移窗口。

3、遷移的實施過程

按標準化流程實施:

(1)現網環境評估調研

進行現網環境的信息採集和梳理,中信數據遷移項目主要包括近40臺的主機信息採集,4臺FC交換機信息收集。同時要梳理交換機的埠規劃信息和組網拓撲。

(2)方案的規劃設計

結合ODS業務特點,分批分期進行數據的遷移工作,針對不同系統輸出針對性的遷移方案,例如:AIX主機+DB2資料庫、AIX+LINUX的GPFS文件系統;方案中不僅要包含詳細實施步驟,還要包含完善的回退步驟,遷移過程中回退,遷移完成運行一段時間後的回退步驟等。方案在華為內部提交ITMO進行專家組評審,並同客戶多次組織相關廠商和行內專家評審。

(3)實驗和模擬

ODS 資料庫的遷移採用了LVM傳統的文件系統遷移,方案成熟,主要考慮的是遷移數據量和時間窗口;GPFS系統遷移案例較少,給出基於存儲和主機側的2種方案,進行數據量和遷移時間評估可行性,並在實驗室搭建測試環境,實驗環境主要完成方案驗證,遷移實施過程中問題的復現,直到遷移完成實驗環境才能夠拆除。

(4)現場交付

組織一線、地區部多名專家現場實施,研發專家後端保障,由於GPFS文件系統的遷移涉及到19臺不同作業系統及版本的多路徑安裝及替換,需要同步進行,操作同時還需要進行覆核;現場申請了華為4人和客戶3人同時操作。

(5)全稱監控

通過微信群工具,將遷移進展和遷移中問題及時同步到二線及三線專家,遷移過程中進行指導和遇到問題及時解決,保證遷移動作的準確性。

(6)值守和驗收

遷移完成後需要在新環境穩定運行1個月左右在拆離原有存儲,這期間需要收集性能數據,觀察業務運行是否平穩,如出現新設備性能不滿足,需要時可進行回退操作。確認整個遷移過程完成業務運行正常後進行驗收和文檔傳遞。

三、中信數據遷移帶來的價值

1、通過完善的數據遷移流程和專家保障,使客戶對老舊系統的數據遷移方案經過驗證更加放心,現場實施過程中遇到問題能夠快速調動不同專業的專家支持,使客戶對華為數據遷移能力更加認可,更加安心。

2、華為存儲的異構虛擬化遷移技術得到客戶認可,客戶認為採用存儲異構虛擬化遷移,大大減少了作業系統側的操作,老舊系統的遷移對客戶自己來說也是難度很大的工作;並且遷移對業務影響時間短,同時回退方便,降低了整個數據遷移的複雜性。

相關焦點

  • 中信銀行信用卡中心:以新核心系統驅動,構建數字金融「生態市場」
    從技術層面來看,混搭式架構歸根到底都是煙囪式的形態,這對數據的融通和業務流程的穿透比較困難。因此,探尋一次性解決,或只升級一次就徹底解決容量和性能問題的解決方案,提升敏捷度是當前行業必須解決的難點。11月24日,中信銀行信用卡StarCard新核心系統一周年沙龍在深圳舉行,11家機構在會上聯合啟動「生態市場」,宣布正式開啟無界開放的數字金融新業態。
  • 張掖交投大數據遷移華為張掖雲籤約儀式舉行
    甘肅張掖網訊 12月30日上午,由張掖市工信局主辦、市交投公司承辦的張掖交投公司大數據遷移華為張掖雲暨供應鏈和創新信息業務戰略合作籤約儀式舉行。此次籤約,是全面貫徹落實市委、市政府加快全市信息平臺互聯互通、數據資源開放共享、產業結構優化升級戰略部署及公司創新及信息業務發展規劃的一項重要舉措,標誌著市交投公司信息化整合及創新業務發展水平邁向了一個新的臺階。張掖交投公司作為市屬國有投融資平臺,肩負著推動全市經濟社會發展的社會責任。
  • 華為雲GaussDB亮相DTCC2020,全面釋放數據新動力
    如何在變革中創造新的機遇,在機遇中尋找新的突破口;如何滿足企業對雲資料庫的高要求,助力企業核心數據安全上雲,成為雲廠商不得不思考的問題。  金融政企落地實踐  華為雲GaussDB資料庫,以技術驅動數據創新,打造金融政企核心數據上雲信賴首選,目前已成功助力中國工商銀行、國家地理信息公共服務平臺天地圖、華為企業流程IT等在內的金融政企輕鬆無憂上雲。
  • 國網天津信通公司 :ODS電能質量在線監測應用試點遷移技術方案...
    4月29日,國網天津信通公司依據《2020年國網雲和數據中臺建設工作安排》,承擔了電能質量在線監測系統遷移試點工作,編制完成基於ODS電能質量在線監測應用遷移的技術方案,成為此數據類平臺數據遷移及驗證工作的初步行動指南。
  • IBM助力香港機場管理局加速混合雲遷移
    通過機管局的公開招標,IBM被選中為香港機管局提供強大的服務組合,幫助其遷移到混合雲平臺。IBM Services團隊將幫助機管局找出110多項應用的技術細節和依據、擬定目標狀態架構 (Target State Architecture)、導入微服務,並進行雲應用的遷移及現代化。IBM也會與機管局合作,將 DevSecOps應用到CI/CD Pipeline的設計及配置過程當中,讓應用交付更快速、質量更高和更安全。
  • 遷移到雲平臺需要解決大數據問題
    Denodo公司首席技術官Alberto Pan對於企業將業務遷移到雲平臺時克服大數據的難題進行了闡述。企業利用大數據仍然並非沒有障礙。對於許多企業而言,雲計算已經成為現實。多年來,它已成為實現最大敏捷性、靈活性和可擴展性的關鍵,因此享有聲譽。大數據等雲計算技術的好處已得到充分證明。採用它們的企業能夠根據需要擴展和縮減其數據存儲和計算能力。
  • 從預置數據中心遷移至IDC數據中心的七大關鍵因素
    說到數據中心,要麼是在自建數據中心,並維護,要麼是從某IDC那裡租用空間。IDC的優勢在於,可以在不同地區擁有不同的數據中心,能夠為數據中心提供備份容災數據中心。如何定義需求、選擇合適的IDC提供商及協商實際遷移到新空間的細節等因素,都需要進行嚴格地評估。要清楚,一旦合同籤署,如果發現需要再次進行遷移,那將是非常耗時且複雜的,更何況還會產生高額費用並對業務造成破壞性影響。從預置的數據中心遷移到IDC數據中心,以下列出7個關鍵的DCIM注意事項。
  • 聯邦學習 OR 遷移學習?No,我們需要聯邦遷移學習
    機器之心分析師網絡作者:仵冀穎編輯:H4O在這篇文章中,作者通過 4 篇論文詳細介紹了聯邦學習中的聯邦遷移學習問題,並探討了向經典聯邦學習中引入遷移學習的目的和意義。海量訓練數據是現代機器學習算法、人工智慧技術在各個領域中應用獲得成功的重要條件。
  • 【招聘】中信銀行信用卡中心招IT開發、人工智慧、PMO、數據挖掘等...
    2021年中信銀行信用卡中心大數據中心社會招聘啟事。工作地點:深圳市福田區。IT系統開發崗-JAVA方向職位描述1、協助開展大數據業務需求收集、整理、匯總。2、保質高效完成大數據系統類需求的評估、設計、開發、測試、上線、系統優化及運營。
  • 中信銀行道歉、美國擬與華為合作、LG化工廠氣體洩露致10死千傷
    【華為回應美允許美國公司與其合作:利好技術參與者,不涉產品買賣】2.【中信銀行向池子道歉:中信支行行長已撤職】3.【阿里海外最大規模置業:84億元在新加坡買樓】4.【三星宣布經營權不傳子女,爺孫三代家族式管理告終】5.【LG印度化工廠氣體洩漏致10死5000人不適】6.【谷歌取消居家辦公餐食健身補貼】7.
  • 遷移學習怎麼做?遷移成分分析 (TCA) 方法簡介
    王晉東 (不在家),中國科學院計算技術研究所博士生,目前研究方向為機器學習、遷移學習、人工智慧等。之前整理總結遷移學習資料的時候有網友評論,大意就是現在的類似資料大全的東西已經太多了,想更深入地了解特定的細節。從這篇文章開始我將以《小王愛遷移》為名寫一系列的介紹分析性的文章,與大家共享遷移學習中的代表性方法、理論與自己的感想。
  • 科藍軟體出席2020數字經濟峰會,助力黃河鯤鵬生態落地生根
    該會由河南省人民政府主辦,華為技術有限公司支持,峰會主要出席領導有河南常務副省長黃強、華為公司輪值董事長徐直軍。北京科藍軟體系統股份有限公司(股票代碼:300663)董事長王安京應邀出席。會上,河南常務副省長黃強表示,河南將攜手鯤鵬產業生態夥伴,大力支持黃河鯤鵬產業發展,共享機遇、共謀發展、共創未來。
  • 網際網路史上最大數據遷移之一:115科技遷至阿里雲
    6月7日,上海雲棲大會上,115科技和阿里雲宣布完成阿里雲史上最大數據遷移上雲項目,115科技的全部數據都搬遷至阿里雲上,規模超過100PB,整個項目耗時僅45天,創造了新的「中國速度」,這也是中國網際網路史上涉及用戶量最多、數據規模最大的遷移項目之一。
  • 遷移電商網站代價慘重?電子商務網站遷移的關鍵五大步驟詳解
    在電子商務網站遷移之前做好準備是確保其持續成功的關鍵,雖然在遷移站點時SEO通常會出現下降,但如果啟動之前修復錯誤實際上可以幫助你保持穩定的流量。 為此,本文將分享五個網站階段遷移檢查步驟,以儘量減少網站遷移所帶來的任何潛在的SEO負面影響。 為什麼遷移?
  • 姓氏分布與人口遷移
    我們利用全國12.8億人的姓氏數據,根據同姓率和姓氏距離兩個指標,對我國歷史上出現的一些大規模人口遷移事件進行了分析。     同姓率的概念最早由達爾文提出,用來估算近親結婚的比例,其意指是在一個地區隨機選取兩個人,而他們具有相同姓氏的概率。
  • 史上最大數據遷移,每秒27GB,這是怎麼做到的?
    近日,115科技將其全部數據都遷移到了阿里雲上,涉及的數據超過100PB,僅用45天就完成了,平均每秒遷移的數據達到了27GB,這麼龐大的數據傳輸115科技和阿里雲是如何做到的呢?每秒27GB如果是通過網絡傳輸這些數據,需要的帶寬將是幾十TB級的,115科技和阿里雲顯然沒法使用這麼大的帶寬,因為整個中國的國際出口帶寬都沒有達到這個量級,115科技和阿里雲在這項工作中一定藉助了其他的方式。
  • 中科院計算技術研究所王晉東:遷移學習的發展和現狀 | 分享總結
    遷移學習強調通過不同領域之間的知識遷移,來完成傳統機器學習較難完成的任務。它是解決標定數據難獲取這一基礎問題的重要手段,也是未來更好地研究無監督學習的重要方法。在近日雷鋒網(公眾號:雷鋒網) AI研習社的公開課上,來自中國科學院計算技術研究所的在讀博士王晉東帶來了題為《遷移學習的發展和現狀》的分享。
  • 換臉新潮流:風靡全球的人臉風格遷移技術引
    而半個世紀後的今天,BIGO自主研發的FaceMagic的換臉技術讓你隨心所欲地化身為兵馬俑,世界名畫,或者電影裡的超級英雄, 產品一推出即風靡全球。 技術挑戰主要來源於三個方面:第一是人臉特徵遷移技術,我們創新性地嘗試把風格遷移的思路用於人臉特徵遷移中,克服了當時主流的deep fake、 3D方案等技術的不足。
  • 華為雲GaussDB構建雲原生全棧能力,助力企業新升級
    首頁 > 傳媒 > 關鍵詞 > 華為雲最新資訊 > 正文 華為雲GaussDB構建雲原生全棧能力,助力企業新升級
  • 華為雲計算,助力ISV飛翔雲端
    經歷接近十年的不斷創新和不斷落地,除了網際網路等對新興技術接受速度極快的行業之外,包括銀行、政府等在信息化方面最為傳統的行業也對雲計算的價值有了充分的肯定。  圍繞雲計算,新的商業模式不斷產生,新的市場機遇不斷被發現。依託雲計算帶來的靈活、高效和開放的信息資源,越來越多的用戶和用戶的用戶都開始享受到雲帶來的好處。