kafka之真香腳本(二)

寫在前面

上篇文章我們介紹了新增節(jié)點后分區(qū)怎么重新負(fù)載,但這種情況很少發(fā)生。因為kafka單機負(fù)載能力很是強悍,一般3個節(jié)點即可,5個節(jié)點的都很少見。
然而很大概率出現(xiàn)的問題是有個節(jié)點宕機了怎莫辦?沒錯,答案就是重啟。
但重啟后會面臨一個問題,broker的宕機重啟,會引發(fā)Leader分區(qū)和Follower分區(qū)的角色轉(zhuǎn)換,最后可能Leader大部分都集中在少數(shù)幾臺broker上,由于Leader負(fù)責(zé)客戶端的讀寫操作,此時集中Leader分區(qū)的少數(shù)幾臺服務(wù)器的網(wǎng)絡(luò)I/O,CPU,以及內(nèi)存都會很緊張。
別擔(dān)心,kafka自動再均衡腳本: kafka-preferred-replica-election.sh會幫我們初始的副本分配。

一. 副本自動再均衡

1.1指定再均衡的主題及其分區(qū)
cat preferred.json

  • 內(nèi)容示例
{
  "partitions": [
   {
      "topic":"your topic's name",
      "partition":0
   },
   {
      "topic":"your topic's name",
      "partition":1
   },
   {
      "topic":"your topic's name",
      "partition":2
    }
    ]
}
  • 參數(shù)說明
    topic再均衡主題名
    partition 當(dāng)前主題分區(qū)

1.2 執(zhí)行腳本
kafka-preferred-replica-election.sh --zookeeper your zookeeperIP:PORT --path-to-json-file preferred.json
至此操作完畢
1.3 查看副本情況和原來對比
kafka-topics.sh --zookeeper your zookeeperIP:PORT --describe --topic your topic's name

至此就恢復(fù)了最初情況

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • kafka安裝目錄下的bin目錄包含了很多運維可操作的shell腳本,列舉如下: 接下來詳細(xì)說明每個腳本的使用方法...
    阿飛的博客閱讀 9,981評論 5 15
  • Kafka高級特性解析(二) 主題 管理 使用kafka-topics.sh腳本: 選項說明--config 為...
    奮斗的蛐蛐閱讀 558評論 0 1
  • 簡介 Kafka從0.8.x版本開始引入副本機制,這樣可以極大的提高集群的可靠性和穩(wěn)定性。不過這也使得Kafka變...
    朱小廝閱讀 2,044評論 0 1
  • kafka的定義:是一個分布式消息系統(tǒng),由LinkedIn使用Scala編寫,用作LinkedIn的活動流(Act...
    時待吾閱讀 5,542評論 1 15
  • Kafka的架構(gòu) 包括Kafka的基本組成,Kafka的拓?fù)浣Y(jié)構(gòu)以及Kafka的內(nèi)部通信協(xié)議。Kafka內(nèi)部的通信...
    陳晨_軟件五千言閱讀 2,030評論 0 9

友情鏈接更多精彩內(nèi)容