Ubuntu下安裝Kafka Manager

2020-10-31 ethnicity

下載Kafka Manager,並進行打包,由於Kafka manager是由scala寫的,所以需要由sbt的支持

apt-get -y install git git clone https://github.com/yahoo/kafka-manager

安裝sbt

echo "deb https://dl.bintray.com/sbt/debian /" | sudo tee -a /etc/apt/sources.list.d/sbt.listsudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv 2EE0EA64E40A89B84B2DF73499E82A75642AC823sudo apt-get updatesudo apt-get install sbt

配置zk的地址

在conf/application.conf中將kafka-manager.zkhosts的值設置為真實的伺服器地址

打包完成後,對kafka-manager-xxxx.zip包進行解壓,位置在target/universal目錄下

kafka-manager/target/universal

修改配置

vim kafka-manager-xxxx/conf/application.conf

啟動Kafka manager

bin/kafka-manager -Dconfig.file=/opt/kafka-manager-1xxxx7/conf/application.conf -Dhttp.port=7778

訪問

http://localhost:9000

然後在cluster中add cluster,比如


啟動後如果遇到

[warn] o.a.k.c.p.Errors - Unexpected error code: 38.[warn] o.a.k.c.NetworkClient - Error while fetching metadata with correlation id 98 : {__consumer_offsets=UNKNOWN}

就手動創建一個叫__consumer_offsets的topic

如果你的kafka只有一臺機器,然後遇到kafka-console-consumer無法消費的情況,可以查看一下offsets.topic.replication.factor這個參數是否為1,不是1的話消費者的offset是無法提交上去的


啟動Kafka的JMX,只需要修改kafka的啟動命令就行,注意給kafka添加jmx需要在kafka manager之前

啟動kafka服務時指定JMX_PORT值:

JMX_PORT=9999 bin/kafka-server-start.sh -daemon config/server.properties

//一臺機器部署多個server採用此方法

或者修改kafka-server-start.sh,在前面加上:

export JMX_PORT=9999

//如果一臺機器部署一個server 建議採用此方法



關於Kafka Manager中的一些參數說明:

Topic 指標

Replication (副本數)

Number of Partitions (分區數)

Sum of partition offsets (offset大小,需要開啟JMX支持)

Total number of Brokers (Broker總數)

Number of Brokers for Topic (Topic所佔Broker數)

Preferred Replicas % ()

Brokers Skewed % (Broker 均衡率)

Brokers Spread % (Broker 擴散率)

Under-replicated % (處於同步狀態的比率)

Metrics 指標

Message in /sec  消息數據流量

Bytes in /sec  kafka輸入數據流量

Bytes out /sec  kafka輸出數據流量

Bytes rejected /sec  拒絕的流量

Failed fetch request /sec  失敗的獲取請求

Failed produce request /sec  失敗的生產請求

如果執行sbt clean all失敗執行如下操作再次嘗試


rm -rf ~/.ivy2rm -rf  ~/.sbt

相關焦點

  • Kafka-manager部署與使用簡單介紹
    /releases下載下來的是源碼包,需要進行sbt編譯,為了方便我這裡直接下載編譯好的kafka-manager-1.3.3.8.zip下面搭建kafka測試環境,簡單演示kafka manager部署與使用1、kafka環境準備
  • Kafka-Manager - 一站式 Kafka 管控平臺
    ,是 didi(滴滴出行開源團隊)在 Github 上開源的 Apache Kafka 集群管控平臺,項目位於 https://github.com/didi/kafka-manager,目前版本為 v1.0.0。
  • Kafka實戰1-全家桶安裝
    /operator-lifecycle-manager/releases/download/0.16.1/olm.yaml安裝kubectl apply -f https://github.com/operator-framework/operator-lifecycle-manager/releases/download/0.16.1/crds.yamlkubectl apply -f https://github.com/operator-framework/operator-lifecycle-manager/releases/download/0.16.1/olm.yaml
  • 從安裝ubuntu到搭建android環境(三)
    從安裝ubuntu到搭建android環境(三) 來源:www.pipaw.com     時間:2012-05-22      作者:琵琶網
  • 從安裝ubuntu到搭建android環境(三)-安卓手機網遊戲資訊頻道-琵琶網
    從安裝ubuntu到搭建android環境(三) 來源:www.pipaw.com     時間:2012-05-22      作者:琵琶網
  • ubuntu下安裝VNC遠程桌面的詳細步驟
    1、打開一個Terminal,安裝vnc4serversudo apt-get install vnc4server2、接著安裝 sudo apt-get install gnome-panel3、啟動vnc4server,輸入vnc4server此時系統會提示你輸入密碼,在通過客戶端連結時將會用到這個密碼。
  • 將Linux(ubuntu)安裝到U盤上,實現即插即用
    本教程是說明如何將ubuntu系統安裝到U盤上(也就是把U盤當做電腦的硬碟),可以實現U盤插到任何電腦上都能夠在實體機上運行ubuntu系統,而且所有的運行配置都能被保存,相當於隨身攜帶的一個電腦。所以就在網上搜了很久如何將ubuntu安裝到U盤上,但是網上很少有資料,有資料的也不是很全,自己摸索了很久終於成功實現了,所以這裡記錄一下安裝過程,希望能夠給以後需要的朋友一個參考。環境和準備:本教程使用VMware虛擬機作為安裝鏡像的引導介質,VMware版本為12.5pro。
  • ELK + Filebeat + Kafka 分布式日誌管理平臺搭建
    1.2 ELFKdocker 安裝hosts表示kafka的ip和埠號,topic表示filebeat將數據輸出到topic為sparksys-log的主題下,此處也根據自己情況修改2.1.2 Logstash變動logstash.conf配置input由原來的輸入源
  • ubuntu 16.04 是如何安裝搜狗輸入法的呢?
    ubuntu 16.04 是如何安裝搜狗輸入法的呢?下載好安裝包之後我們第一時間先看下安裝包的後綴,因為linux系統支持多種文件格式的應用包安裝,而且每種包的安裝方法也有所差異,比如說linux支持rpm包、dpkg包、tar.gz(bz或bz2等)結尾的原始碼包搜狗輸入法官網下載的是以.deb結尾的打包應用程式,屬於dpkg包。按理來說這是一款類似與windows系統的.exe類似的程序,可以直接雙擊來安裝的。
  • Ubuntu安裝 svn(「費勁周折」處理異常問題)
    最近公司新項目開始搭建,需要在ubuntu上安裝svn,起初在其他linux上安裝過svn,沒有在ubuntu上安裝svn的記錄,在家裡首先測試了一把,只是執行簡單的sudo apt-get install subversion 命令svn就安裝成功,但是同樣的命令在公司的伺服器上執行時,系統提示找不到組織包一類的錯誤
  • Docker實戰之Kafka集群
    由於 Kafka 的安裝需要依賴 Zookeeper,對 Zookeeper 還不了解的小夥伴可以在 這裡 先認識下 Zookeeper。Kafka 能解決什麼問題呢?先說一下消息隊列常見的使用場景吧,其實場景有很多,但是比較核心的有 3 個:解耦、異步、削峰。2.
  • 一款Kafka可視化Web界面管理工具:CMAK
    今天跟大家介紹其中一款可視化Web界面管理工具,它就是kafka-manager,不過現在更名為CMAK。選擇性為 broker level and topic level metrics 開放JMX polling選擇性過濾掉在zookeeper中沒有ids|owners|offsets|directories的消費者下面跟大家分享下如何部署安裝這款管理工具
  • 基於libvirt 和QEMU在macOS安裝Ubuntu
    libvirt由紅帽公司開發並用於KVM管理,也支持Xen等虛擬架構下的管理。libvirt旨在為各種虛擬機架構提供一套通用的編程接口,而且支持與Java,Python多種語言的綁定,所以湧現了一批基於基libvirt的虛擬機管理工具,比如virt-manager(GUI工具),virsh(命令行工具)。
  • 在容器中部署ELFK+kafka日誌系統(二)
    -0.kafka-svc.kube-ops:9092, kafka-1.kafka-svc.kube-ops:9092, kafka-2.kafka-svc.kube-ops:9092"]        group_id => "logstash-g1"
  • windows下繼續使用wubi神器安裝最新ubuntu系統
    windows下繼續使用wubi神器安裝最新ubuntu系統(ubuntu20.04.1,ubuntukylin20.04.1和UbuntuStudio20.04.1)1、 下載支持最新ubuntu系統安裝神器Wubi
  • Ubuntu下常用軟體安裝?
    然後是在wps下無法使用搜狗輸入法輸入中文怎麼解決?7、安裝微信由於微信沒有linux版本的,我們通過deepin-wine安裝,首先是下載deepin-wine-ubuntu,它是deepin-wine的ubuntu/debian的移植版本,然後是安裝。
  • Ubuntu下安裝LAMP
    Ubuntu下安裝LAMP Ubuntu 在安裝的時候一般默認不會安裝LAMP,server版的都會默認安裝。本文講述的是如何在Ubuntu下自己DIY安裝LAMP。
  • docker 安裝kafka ,並發送接收消息
    通過docker 安裝kafka 在dockerhub網站中Star最多的kafka鏡像是wurstmeister/kafka1.首先需要 安裝docker-compose a.--此處可以直接指向生成好的鏡像 (把build.改為 image: wurstmeister/kafka) image: wurstmeister/kafka ports: - "9092"
  • kafka 監控工具 eagle 的安裝
    簡介如圖 kafka eagle 是可視化的 kafka 監視系統,用於監控 kafka 集群>https://keats.lanzous.com/iPuztehkbpc配置 kafka更改 kafka 安裝目錄 /bin 目錄 下 kafka-server-start.sh 的這一段 $KAFKA_HEAP_OPTS 裡面的內容,提供 jmx 連接埠。
  • Ubuntu下Coreseek的安裝配置
    而且ubuntu系統是一個完全免費的作業系統,所以以後越來越多的用戶會開始使用ubuntu系統。那下面學學ubuntu系統下Coreseek的安裝配置吧。一切按照官方的說明文檔來安裝,但到最好配置時卻老配置老出錯。最終只能再google一下,按下面的配置才算搞定。