Hadoop技術生態簡介

2021-01-09 加米谷大數據

大數據的發展歷史當中,Hadoop技術框架是佔據著重要地位的,歷經十多年的時間,依然是企業搭建大數據平臺基礎架構的主流選擇,圍繞著Hadoop而生的大數據生態組件,也都各自發揮著各自的作用。今天的Hadoop大數據培訓分享,我們來坐Hadoop技術生態做一個簡單的介紹。

Hadoop可以說是第一代大數據技術框架的主流選擇,很多早期開始搭建大數據系統平臺的企業,都是從Hadoop開始的,面對海量數據,Hadoop通過分布式集群,實現穩定的大數據儲存和大數據計算,這是Hadoop的核心。

分布式文件系統HDFS

HDFS是Hadoop體系中數據存儲管理的基礎。它是一個高度容錯的系統,能檢測和應對硬體故障,用於在低成本的通用硬體上運行。

分布式計算框架Mapreduce

MapReduce是一種分布式計算模型,用以進行大數據量的計算。它屏蔽了分布式計算框架細節,將計算抽象成map和reduce兩部分,非常適合在大量計算機組成的分布式並行環境裡進行數據處理。

分布式列存資料庫HBASE

HBase是一個建立在HDFS之上,面向列的針對結構化數據的可伸縮、高可靠、高性能、分布式和面向列的動態模式資料庫。

分布式協作服務Zookeeper

解決分布式環境下的數據管理問題,包括統一命名,狀態同步,集群管理,配置同步等。

數據倉庫HIVE

Hive定義了一種類似SQL的查詢語言(HQL),將SQL轉化為MapReduce任務在Hadoop上執行。通常用於離線分析。

數據ETL/同步工具Sqoop

Sqoop是SQL-to-Hadoop的縮寫,主要用於傳統資料庫和Hadoop之前傳輸數據。數據的導入和導出本質上是Mapreduce程序,充分利用了MR的並行化和容錯性。

日誌收集工具Flume

Flume是一個可擴展、適合複雜環境的海量日誌收集系統。

分布式資源管理器Yarn

YARN主要是為了解決原始Hadoop擴展性較差,不支持多計算框架而提出的。作為通用的運行時框架,用戶可以編寫自己的計算框架,在該運行環境中運行。

關於Hadoop大數據培訓,Hadoop技術生態,以上就是簡單的介紹了。大數據發展迅速,大數據技術也在快速更新迭代,想入行發展,主流技術框架一定要掌握牢靠。

相關焦點

  • hadoop開發應用實例_hadoop應用開發技術實例詳解 - CSDN
    hadoop是什麼?hadoop能有哪些應用?hadoop和大數據是什麼關係?下面我們將圍繞這幾個問題詳細闡述。hadoop是什麼?Hadoop是一個由Apache基金會所開發的分布式系統基礎架構。用戶可以在不了解分布式底層細節的情況下,開發分布式程序。充分利用集群的威力進行高速運算和存儲。
  • hadoop最新發行穩定版:DKHadoop版本介紹
    Hadoop對於從事網際網路工作的朋友來說已經非常熟悉了,相信在我們身邊有很多人正在轉行從事hadoop開發的工作,理所當然也會有很多hadoop入門新手。Hadoop開發太過底層,技術難度遠比我們想像的要大,對新手而言選擇一個合適的hadoop版本就意味著上手更快!
  • hadoop基礎知識介紹_hadoop是什麼語言開發的_hadoop能做什麼
    一、hadoop是什麼? (1)Hadoop是一個開發和運行處理大規模數據的軟體平臺,可編寫和運行分布式應用處理大規模數據,是Appach的一個用java語言實現開源軟體框架,實現在大量計算機組成的集群中對海量數據進行分布式計算(或專為離線和大規模數據分析而設計的)並不適合那種對幾個記錄隨機讀寫的在線事務處理模式。
  • hadoop入門基礎教程操作篇
    關於hadoop的分享此前一直都是零零散散的想到什麼就寫什麼,整體寫的比較亂吧。最近可能還算好的吧,畢竟花了兩周的時間詳細的寫完的了hadoop從規劃到環境安裝配置等全部內容。寫過程不是很難,最煩的可能還是要給每一步配圖,工程量確實比較大。
  • 銀興智能:助力廣發銀行打造Hadoop資源管理平臺
    據深圳銀興智能數據有限公司(簡稱:銀興智能)介紹,隨著廣發銀行大數據平臺hadoop集群應用場景越來越多,研發中心、數據中心、卡中心和分行等部門均在大數據平臺上進行數據開發和數據分析,由於數據開發和分析的場景各不相同,使用和購置的資源也不同。
  • Hadoop大數據生態系統及常用組件簡介
    一般數據量大(多)或者業務複雜的時候,常規技術無法及時、高效處理如此大量的數據,這時候可以使用Hadoop,它是由Apache基金會所開發的分布式系統基礎架構,用戶可以在不了解分布式底層細節的情況下,編寫和運行分布式應用充分利用集群處理大規模數據。Hadoop可以構建在廉價的機器上,比如我們淘汰的PC Server或者租用的雲主機都可以拿來用。
  • Hadoop是低成本的大數據解決方案?別逗了!
    現在伴隨公有雲技術的成熟,Hadoop甚至連硬體成本也不佔優了。 Hadoop與阿里雲MaxCompute的成本對比國內做大數據,基本就這兩個選擇:自建Hadoop或者使用阿里雲的MaxCompute(就是原來的ODPS)。像Amazon、Google、微軟的大數據服務在國內基本處於不可用或者很難用的狀態。
  • Hadoop資源管理與作業調度框架yarn剖析
    提到Hadoop,大家可能首先想到的是Hdfs存儲、mapreduce離線計算,Hadoop2.x推出yarn(Yet Another Resource Negotiator)之後,hadoop已搖身一變為資源管理與作業調度平臺,基於yarn可在hadoop集群上可運行mepreduce(離線計算
  • Apache Hadoop 3.0.0 GA 正式發布,要求 Java 8
    更多關於HDFS的糾刪碼可以參見http://hadoop.apache.org/docs/r3.0.0-beta1/hadoop-project-dist/hadoop-hdfs/HDFSErasureCoding.html或者直接閱讀本博客Hadoop 3.0糾刪碼(Erasure Coding):節省一半存儲空間的相關介紹。
  • 比自建Hadoop便宜 雲棲大會揭秘阿里雲數加MaxCompute
    我們就來對比一下這兩個主流的技術選型:以企業擁有10TB數據為例,自建hadoop集群,則至少需要6臺機器(3nodes+2NameNode+1jobtracker),成本在20萬左右。除此之外,還需要投入機房資源,網絡設備和運維成本。這其中主要是運維成本,要知道一個運維人員的成本一年至少15萬。這樣,整體算下來要55萬左右。
  • 8臺Hadoop伺服器進行集群規劃前配置
    通過VMware將虛擬機分布在這8塊硬碟上,模擬在一個機架上的8臺伺服器:編號:/BJ0/LG0/hadoop221-228其中:221-222:NameNode,223-228:DataNode集群規劃集群規劃如下:(伺服器編號為hadoop221-hadoop228)註:1、NameNodes和zkfc
  • android技術發展趨勢 - CSDN
    一是兩者都是還在繼續演進的技術,未來的技術發展方向還不是特別清晰;二是需要更多的應用場景來支持技術的推廣;三是兩者都還需要其它的技術(比如5G)突破,才能獲得更大的發展。現在,Android已經準備就緒了,接下來就看晶片廠商、應用開發者和內容提供商們怎麼利用這個技術平臺來構建AR和AI的生態環境了。    5G時代萬物互聯,Android如何突破重圍?    說到AR和AI的生態環境,就不得不提到另一個技術熱點,那就是5G。5G相對於4G,不僅僅是帶寬提高了,更重要的是可接入的設備類型大大增加了。
  • 圖解Hadoop生態系統
    【CSDN綜合編譯】雖然Hortonworks和Cloudera在Apache Hadoop統治力排行榜上分列一、二,但在整理Hadoop生態系統中,他們還只能算作初創公司,仍然可能被大鱷們扼殺或收購。 圖:Hadoop生態系統。
  • 《Hadoop核心技術》作者翟周偉 :我與Hadoop的不解之緣
    翟周偉,資深Hadoop技術專家,專注於Hadoop&大數據,數據挖掘,自然語言處理領域,目前就職於百度。作為一名Hadoop技術專家最吸引你的是什麼?有沒有背後的故事分享給大家?第三個發展方向就是Hadoop生態系統集成,目前Hadoop已經發展為一個完備的生態系統,這個生態系統最底層以HDFS和MapReduce為核心,上層為各種存儲,計算,分析等應用系統,如何將這些系統很好的集成起來形成一個類似完善的分布式作業系統和雲計算應用系統是一個非常誘人的發展方向。
  • 簡單粗暴,微生物生態研究中常用資料庫簡介
    微生物生態(MicrobialEcology),又名環境微生物
  • 好程式設計師大數據培訓分享Hadoop技術優缺點
    好程式設計師大數據培訓分享Hadoop技術優缺點,目前我們正被數據包圍,全球43億部電話、20億位網際網路用戶每秒都在不斷地產生大量數據,人們發送簡訊給朋友、上傳視頻、用手機拍照、更新社交網站的信息、轉發微博、點擊廣告等,使得機器產生和保留了越來越多的數據。
  • 更快、更強——解析Hadoop新一代MapReduce框架Yarn
    編者按:對於業界的大數據存儲及分布式處理系統來說,Hadoop 是耳熟能詳的卓越開源分布式文件存儲及處理框架,對於 Hadoop 框架的介紹在此不再累述,隨著需求的發展,Yarn 框架浮出水面, @依然光榮復興的 博客給我們做了很詳細的介紹,讀者通過本文中新舊 Hadoop MapReduce 框架的對比,更能深刻理解新的 yarn 框架的技術原理和設計思想
  • 宏基因組 微生物組 微生物生態領域雜誌簡介及最新影響因子
    期刊簡介:Nature子刊,全稱Multidisciplinary Journal of Microbial Ecology(微生物生態交叉學科雜誌),IF(2018): 9.520; 中科院一區;年文章數346篇。
  • 微生物修復(ISSAPGPR原位生態修復技術)河道治理技術的研究
    北極星環境修復網訊:摘要:ISSA PGPR原位生態修復技術。採用「ISSA PGPR原位生態修復技術」來消除水中汙染物,修復遭到破壞的水生態系統,治理水體富營養化,改善水體環境,豐富群落種類,優化種群結構,提高水生態系統的自淨能力,維持水生態系統的穩定健康發展。