不愧是Alibaba技術官，Kafka的精髓全寫這本「限量筆記」裡，服了

前言

分布式，是程式設計師必備技能之一，在面試過程中屬於必備類的，在工作中更是會經常用到。而Kafka是一個分布式的基於發布訂閱的消息隊列，目前它的魅力是無窮的，對於Kafka的奧秘，還需要我們細細去探尋。

要談對Kafka有多熟悉，我相信還是阿里的大佬們最有發言權，所以今天分享的內容，就是Alibaba內部供應的「限量筆記」，關於Kafka的精髓全部寫在這裡面了，不得不感嘆：不愧是Alibaba的技術官啊，真的服了！

關於這份Kafka限量筆記，我只能在文章中展示部分的章節內容和核心截圖，如果你需要完整的pdf版本，可以私信我「Kafka」免費領取哦。

一、對Kafka的認識

1.Kafka的基本概念

2.安裝與配置

3.生產與消費

4.服務端參數配置

二、生產者

1.客戶端開發

• 必要的參數配置
• 消息的發送
• 序列化
• 分區器
• 生產者攔截器

2.原理分析

• 整體架構
• 元數據的更新

3.重要的生產者參數

三、消費者

1.消費者與消費組

2.客戶端開發

• 必要的參數配置
• 訂閱主題與分區
• 反序列化
• 消息消費
• 位移提交
• 控制或關閉消費
• 指定位移消費
• 再均衡
• 消費者攔截器
• 多線程實現
• 重要的消費者參數

四、主題與分區

1.主題的管理

• 創建主題
• 分區副本的分配
• 查看主題
• 修改主題
• 配置管理
• 主題端參數
• 刪除主題

2.初識KafkaAdminCilent

• 基本使用
• 主題合法性驗證

3.分區的管理

• 優先副本的選舉
• 分區重分配
• 複製限流
• 修改副本因子

4.如何選擇合適的分區數

• 性能測試工具
• 分區數越多吞吐量就越高嗎
• 分區數的上限
• 考量因素

五、日誌存儲

1.文件目錄布局

2.日誌格式的演變

• v0版本
• v1版本
• 消息壓縮
• 變長欄位
• v2版本

3.日誌索引

• 偏移量索引
• 時間戳索引

4.日誌清理

• 日誌刪除
• 日誌壓縮

5.磁碟存儲

• 頁緩存
• 磁碟I/O流程
• 零拷貝

六、深入服務端

1.協議設計

2.時間輪

3.延時操作

4.控制器

5.參數解密

七、深入客戶端

1.分區分配策略

2.消費者協調器和組協調器

3._consumer_offsets剖析

4.事務

八、可靠性探究

1.副本剖析

2.日誌同步機制

3.可靠性分析

九、Kafka應用

1.命令行工具

2.Kafka Connect

3.Kafka Mirror Maker

4.Kafka Streams

十、Kafka監控

1.監控數據的來源

2.消費滯後

3.同步失效分區

4.監控指標說明

5.監控模塊

十一、高級應用

1.過期時間(TTL)

2.延時隊列

3.死信隊列和重試隊列

4.消息路由

5.消息軌跡

6.消息審計

7.消息代理

8.消息中間件選型

十二、Kafka與Spark的集成

1.Spark的安裝及簡單應用

2.Spark編程模型

3.Spark的運行結構

4.Spark Streaming簡介

5.Kafka與Spark Streaming的整合

6.Spark SQL

7.Structured Streaming

8.Kafka與Structured Streaming的整合

總結

我們總是喜歡瞻仰大廠的大神們，但實際上大神也不過凡人，與菜鳥程式設計師相比，也就多花了幾分心思，如果你再不努力，差距也只會越來越大。實際上，作為程式設計師，豐富自己的知識儲備，提升自己的知識深度和廣度是很有必要的，在我看來，自己付出多少，回報就有多少。

Kafka的學習，並沒有想像中那麼難，這份Kafka限量筆記裡面的內容，對你學習Kafka必有啟發和幫助。如果你需要這份完整版的Kafka筆記，只需你多多支持我這篇文章。

——對文章進行轉發+評論，關注我，然後再私信獲取口令「Kafka」100%免費領取。