華為雲GaussDB(DWS)數據倉庫滿分通過信通院最大規模分布式資料庫...

2021-01-10 天極網資訊

  【天極網IT新聞頻道】12月18日,由中國信息通信研究院、中國通信標準化協會、北京市大數據中心聯合主辦的「2020數據資產管理大會」在北京拉開帷幕,會上信通院為通過大數據、資料庫等能力評測的產品頒發證書。華為雲GaussDB(DWS)數據倉庫以單集群2048節點的超大規模,滿分通過測試認證,是迄今為止信通院認證的最大規模分布式資料庫集群,刷新了歷史紀錄,樹立了業界新標杆。

  隨著移動網際網路、IoT、人工智慧等技術的迅速發展,數據產生的規模空前增長,據知名諮詢機構統計,預計未來5年數據規模年均增速達30%,面對快速膨脹的數據規模,各類企業、機構需要更快、更全面的掌握分析數據,挖掘內在價值,支撐經營決策和優化管理,數據倉庫作為核心查詢分析平臺,必須要具備大規模集群能力,也是資料庫廠商需要突破的核心技術點之一。

  華為雲GaussDB(DWS)為各企業用戶提供最佳性能、按需擴展、穩定可靠的企業級數據倉庫,滿足客戶超大規模數據的高性能查詢分析訴求。在本次大規模集群測試評估中,華為雲GaussDB(DWS)一次性通過50項測試用例,包括27項必選用例和23項可選用例,交出了完美的答卷。

  大規模數據倉庫集群不僅僅是將眾多伺服器「攢」起來,更需要解決大並發複雜查詢下的通信連接風暴問題。並且在數千節點的集群中,平均每天都會有硬體故障發生,如何應對「硬體不可靠」帶來的問題?如何在硬體亞健康情況下數據倉仍能提供穩定的性能,如何在作業系統「軟死」情況下數據倉庫不出現卡頓、無響應等問題,是技術面臨的極大挑戰。在2048節點大規模集群認證的背後,是華為雲GaussDB(DWS)強大「硬核科技」的表現。

  一、Multi-Streams多流通信技術

  在2048節點規模下,集群進行全並行數據交換時,集群內可達百億級的並行連接,出現通信連接風暴,已遠遠超出TCP連接埠號和socket文件句柄上限。

  GaussDB(DWS)自研的Multi-Streams多流通信技術,將連接數提升5個數量級,突破物理機TCP連接埠限制,能夠支持集群內百億級通信連接,並且理論支持節點數無上限。

  Multi-Streams多流通信採用邏輯連接技術,避免了TCP物理連接的三次握手的機制,單數據節點建連性能達到100萬次/s,提升20倍。

  該技術基於全異步無阻塞代理通信架構,支持跨邏輯連接的socket合併,將網絡吞吐能力提升3倍。

  二、高可用設計及集群管理技術

  GaussDB(DWS)設計之初,即充分考慮高可用性,其具備多層級高可用及容災能力,在進程級、節點級、集群級出現軟硬體異常的情況下具備平滑處理能力。

  在棘手的硬體亞健康、「軟死」問題上,GaussDB(DWS)具備完善的智能檢測和處理機制,能夠實時監測任意節點狀態,包括伺服器亞健康狀態、磁碟慢盤、靜默損壞等等場景,通過自動感知、剔除、平滑切換等高可用策略,提高業務的連續性。

  並且,在物理組件發生故障的情況下,Server端Multi-Retries技術能夠大幅減少故障失敗的業務感知,保障業務持續運行。

  在集群管理上,針對超大節點數場景,通過邏輯重構,實現集群起停的全並行處理,2048節點規模下具備分鐘級起停能力。

  三、大規模場景下的並行數據備份恢復技術

  完全在線:數據備份期間,採用全程無加鎖技術,任何業務SQL、包括DDL均不受影響

  多層級並行極速備份:每節點獨立多並發、多通道備份,提供10PB級數據快速備份恢復性能

  全局一致性快照:集群級全局一致性快照,數據強一致性保證

  細粒度數據恢復:支持多粒度數據恢復,滿足客戶誤刪、個別表損壞等緊急恢復需求。

  得益於包括以上三點在內的一系列核心技術,華為雲GaussDB(DWS)一舉通過信通院2048節點大規模分布式分析型資料庫評測,成為國內首個單集群突破兩千的商用數據倉庫產品。

  華為雲GaussDB(DWS)數據倉庫已廣泛應用於金融、政府、運營商、交通、物流、網際網路等領域,服務於全球1000+客戶。GaussDB(DWS)踐行"平臺+生態"戰略,聯合500+合作夥伴,為各行業提供競爭力的數據倉庫解決方案。

  了解華為雲GaussDB(DWS)更多內容,請登錄華為雲官網搜索查詢!

類型:廣告

免責聲明:以上內容為本網站轉自其它媒體,相關信息僅為傳遞更多信息之目的,不代表本網觀點,亦不代表本網站贊同其觀點或證實其內容的真實性。

相關焦點

  • 入選Gartner 魔力象限,剖析華為雲 GaussDB 資料庫演進之路
    其中,關係型資料庫服務包括GaussDB(openGauss)、GaussDB(for MySQL)、GaussDB(for PostgreSQL)、 GaussDB(DWS) 數據倉庫服務;非關係型產品包括GaussDB(for Mongo)、GaussDB(for Influx)、GaussDB(for Cassandra)、GaussDB(for Redis)服務。
  • DTCC 2020:華為雲GaussDB加速企業數字變革
    雲、AI、5G等技術驅動,資料庫行業迎來新的需求,雲資料庫也在不斷演進升級。依託華為雲與華為雲Stack,通過全棧軟硬體優化,華為雲GaussDB進行了進階與革新,以統一的架構,支持關係型與非關係型的資料庫引擎。
  • DTCC2020阿里雲李飛飛:雲原生分布式資料庫與數據倉庫系統點亮數據...
    簡介: 資料庫將面臨怎樣的變革?雲原生資料庫與數據倉庫有哪些獨特優勢?在日前的 DTCC 2020大會上,阿里巴巴集團副總裁、阿里雲資料庫產品事業部總裁、ACM傑出科學家李飛飛就《雲原生分布式資料庫與數據倉庫系統點亮數據上雲之路》進行了精彩分享。
  • 華為雲GaussDB聚焦全場景,構建雲原生全棧能力
    在數據服務分論壇,華為雲資料庫技術專家發表了《面向未來的雲原生資料庫技術與趨勢》的主題演講,分享了GaussDB資料庫通過生態開放、架構創新、軟硬協同等方面構建雲原生全棧能力,加速企業數位化轉型,助其成為「新雲原生企業」。雲原生資料庫的黃金時代雲原生,即雲上內生的雲能力,基於統一的架構和雲原生基礎設施,實現多雲協同、混合雲解決方案、邊雲協同等能力。
  • 華為雲GaussDB構建雲原生全棧能力,助力企業新升級
    在數據服務分論壇,華為雲資料庫技術專家發表了《面向未來的雲原生資料庫技術與趨勢》的主題演講,分享了GaussDB資料庫通過生態開放、架構創新、軟硬協同等方面構建雲原生全棧能力,加速企業數位化轉型,助其成為「新雲原生企業」。
  • 全球首款支持鯤鵬硬體架構,GaussDB T資料庫雲服務上線華為雲
    近日,全球首款支持鯤鵬硬體架構的企業級OLTP資料庫GaussDB T的雲服務,正式上線華為雲。意味著GaussDB T除了為企業提供本地部署外,同時具備了在雲上為更多企業提供高效、穩定、易用和高價值的OLTP資料庫服務能力。
  • 從GaussDB到無限想像:開發者眼中的2019數據變局
    2、業務複雜性無限延申:智能時代,意味著雲邊端多場景都將出現複雜的業務部署與數據調用需求,這給資料庫帶來了分布式架構的挑戰,也對故障檢測維修、運維等課題帶來了新的挑戰。作為全球首款既支持x86架構,又支持華為鯤鵬架構的資料庫產品,GaussDB具備一系列性能表現領先性,比如支持單機、分布式和主備三種主流部署模式,可以滿足企業核心應用的訴求,高性能表現可以達到單機部署實測百萬級tmpC,分布式達到千萬級tpmC。此外,GaussDB支持本地部署、私有雲、公有雲等多種場景,能為各行業提供資料庫進化的關鍵支撐。
  • 數據引擎,創見未來——深度探秘分布式資料庫技術嘉年華
    據悉,由上海大數據聯盟、中國通信標準化協會大數據技術標準推進委員會、MySQL全球事業部主辦,北京海量數據技術股份有限公司承辦的「新一代企業級分布式資料庫高端技術嘉年華——暨MySQL全球技術沙龍(上海站)」將於2018年12月22日下午在上海舉行。匯聚頂尖資料庫技術專家、行業翹楚及用戶領袖,一眾資料庫從業者即將共饗這場技術盛宴。
  • 蘋果重新開源分布式資料庫FoundationDB,已在內部使用三年
    策劃編輯|Natalie編譯|核子可樂FoundationDB 是「一個能在多集群伺服器上存放大規模結構化數據的分布式資料庫」。該資料庫系統專注於高性能、高可擴展性和不錯的容錯能力。這意味著使用該資料庫的項目運行起來更高效且維護成本低。
  • Gartner魔力象限:雲資料庫下半場,華為雲GaussDB後勁十足
    為此,華為雲提供一站式傳統商業資料庫上雲解決方案,通過異構資料庫對象遷移和應用遷移工具UGO來提供資料庫源庫畫像,綜合兼容性、性能、對象複雜度、使用場景等,智能推薦不同選型下的規格及成本;數據遷移/同步工具DRS實現對象過濾、語法轉換、對象校正和驗證上線循環驗證,最終幫助用戶實現從主流商業資料庫到雲資料庫的平滑遷移,讓資料庫輕鬆「搬家」。
  • 華為雲GaussDB亮相DTCC2020,全面釋放數據新動力
    GaussDB聚焦全場景,服務全行業  面對挑戰,華為雲資料庫積極融合創新、生態開放,全新推出GaussDB資料庫品牌,依託華為雲與華為雲Stack,通過全棧軟硬體優化,基於統一的DFV分布式存儲架構,支持關係型與非關係型資料庫引擎,提供全場景雲服務。
  • 數智創新,共建生態,DTCC2020 GaussDB精彩回顧
    在這場中國資料庫技術發展探討最高規格的大會上,華為雲資料庫攜手優秀客戶和合作夥伴圍繞"驅動數據創新,共建GaussDB生態"發表了重要演講,深度剖析雲資料庫的架構創新、技術優勢、生態開放以及行業實踐等內容,還斬獲DTCC兩項創新大獎,備受業界關注和認可。
  • 華為雲自研資料庫DDS增強版商用
    華為雲自研資料庫DDS增強版商用     日前,華為雲自研文檔資料庫 DDS 增強版正式商用。作為華為雲在資料庫產品矩陣上的重要布局,它不但兼容最流行的 NoSQL 資料庫 MongoDB,而且基於華為自研核心技術存儲計算分離架構,在讀寫性能、擴容能力、備份恢復性能、故障容忍能力等方面全面提升。
  • 阿里雲發布第七代ECS、雲原生資料庫PolarDB-X等重磅...
    6月9日,阿里雲宣布推出第七代ECS、POLARDB-X資料庫、視覺智能開放平臺等重磅新品,在性能、穩定性和開發效率上繼續領跑全球。此外,阿里雲還發布了新一代數據中臺、混合雲管理平臺、雲原生數據倉庫等產品及解決方案,目前這些產品均已在阿里雲官網上線。
  • 數據湖 VS 數據倉庫之爭?阿里提出大數據架構新概念:湖倉一體
    傳統的資料庫方案再也無力以可接受的成本提供計算力,巨大的數據處理需求開始尋找突破口,大數據時代開始萌芽。2003、2004、2006 年 Google 先後 3 篇經典論文(GFS、MapReduce、BigTable)奠基了這個大數據時代的基本技術框架,即分布式存儲、分布式調度以及分布式計算模型。
  • 阿里雲POLARDB*:創新的雲託管資料庫
    關係型資料庫作為雲託管服務應用廣泛,稱為資料庫即服務(DBaaS)解決方案。但是基於雲的RDBMS可能本身存在難題。因此,雲託管關係型資料庫解決方案必須實現數字轉型。常見的資料庫有MySQL*和Oracle資料庫*,但不管是內部託管,還是雲託管,它們可能均難以保護、管理和擴展,而且可能達不到所需性能和服務質量(QoS)。
  • 睿帆科技獲批成為中國信通院資料庫應用創新實驗室共建單位
    近日,睿帆科技獲中國信通院批准成功加入中國信通院資料庫應用創新實驗室,成為資料庫應用創新實驗室共建單位。作為國內少有的擁有PB級別數據處理核心技術的大數據公司,睿帆科技擁有頂尖的大數據技術團隊。公司成立 5 年來,在大數據核心技術上不斷突破,支持PB級數據處理+低代碼所形成支持海量數據的高效、低成本、靈活開放,以及「無代碼」+「低代碼」+「SDK」三級開發模式所形成的獨特優勢。
  • DB-Engines:2017年1月全球資料庫排名TOP 20 | 網際網路數據資訊網...
    DB-Engines 2017-01資料庫前20名列表DB-Engines這個排名在業界引用得非常多,權威性也很高,總體來說比較客觀,它不像很多諮詢機構採用市場調查,或者某個資料庫廠商發布的數據,而是通過以下6個方面的統計數據來綜合評估各個資料庫產品得分並給出綜合排名:1) 資料庫相關網站數量(當前通過google、bing、yandex搜尋引擎統計)
  • 華為認證HCIP-GaussDB-OLTP發布,下一個高級DBA會是你嗎
    近日,華為認證HCIP-GaussDB-OLTP V1.5(中文版)正式在中國區發布,這意味著華為在滿足企業雲資料庫發展、培養職業化資料庫認證人才方面又前進了一大步。認識一下華為認證HCIP-GaussDB-OLTP華為認證HCIP-GaussDB-OLTP V1.5定位於培養和認證具備基於GaussDB資料庫應用開發及雲DBA能力的高級工程師,如果您希望成為GaussDB資料庫高級管理者、資料庫高級管理員及資料庫應用開發高級工程師等相關人員,那您一定不要錯過這個認證機會。
  • 國產資料庫專題報告:黃金賽道龍頭,十倍成長空間
    在全球資料庫企業中,Oracle 穩居第一,Microsoft 位於第二位。而中國的雲廠商成績同樣耀眼,阿里巴巴位列第 9,華為和騰訊分別位列第 11、13 位。我國資料庫軟體市場規模擴張發展迅速,預計 2020 年資料庫軟體市場達到 200 億元。2009 年我國資料庫軟體市場規模為 35.03 億元,2018 年我國資料庫軟體市場規模增長至 149.91 億元。