• <bdo id="ogwqy"></bdo>
    您現在所在的位置:首頁 >學習資源 > JAVA入門教材 > 大數據入門 | Zookeeper的工作原理

    大數據入門 | Zookeeper的工作原理

    來源:奇酷教育 發表于:

    1 Zookeeper是什么?ZooKeeper是一個分布式的,開放源碼的分布式應用程序協調服務,是Google的Chubby一個開源的實現,它是集群的管理者,監

    1.Zookeeper是什么?

    ZooKeeper是一個分布式的,開放源碼的分布式應用程序協調服務,是Google的Chubby一個開源的實現,它是集群的管理者,監視著集群中各個節點的狀態根據節點提交的反饋進行下一步合理操作。最終,將簡單易用的接口和性能高效、功能穩定的系統提供給用戶。

    2.Zookeeper提供了什么?

    1)文件系統

    2)通知機制

    3.Zookeeper文件系統

    每個子目錄項如 NameService 都被稱作為znode,和文件系統一樣,我們能夠自由的增加、刪除znode,在一個znode下增加、刪除子znode,唯一的不同在于znode是可以存儲數據的。 

    有四種類型的znode: 

    1、PERSISTENT-持久化目錄節點 

    客戶端與zookeeper斷開連接后,該節點依舊存在 

    2、PERSISTENT_SEQUENTIAL-持久化順序編號目錄節點 

    客戶端與zookeeper斷開連接后,該節點依舊存在,只是Zookeeper給該節點名稱進行順序編號 

    3、EPHEMERAL-臨時目錄節點 

    客戶端與zookeeper斷開連接后,該節點被刪除 

    4、EPHEMERAL_SEQUENTIAL-臨時順序編號目錄節點 

    客戶端與zookeeper斷開連接后,該節點被刪除,只是Zookeeper給該節點名稱進行順序編號 

     

    4.Zookeeper通知機制

    客戶端注冊監聽它關心的目錄節點,當目錄節點發生變化(數據改變、被刪除、子目錄節點增加刪除)時,zookeeper會通知客戶端。

    5.Zookeeper做了什么?

    1.命名服務  2.配置管理  3.集群管理  4.分布式鎖  5.隊列管理

    6.Zookeeper命名服務

    在zookeeper的文件系統里創建一個目錄,即有唯一的path。在我們使用tborg無法確定上游程序的部署機器時即可與下游程序約定好path,通過path即能互相探索發現。

    7.Zookeeper的配置管理

    程序總是需要配置的,如果程序分散部署在多臺機器上,要逐個改變配置就變得困難?,F在把這些配置全部放到zookeeper上去,保存在 Zookeeper 的某個目錄節點中,然后所有相關應用程序對這個目錄節點進行監聽,一旦配置信息發生變化,每個應用程序就會收到 Zookeeper 的通知,然后從 Zookeeper 獲取新的配置信息應用到系統中就好。

     

    8.Zookeeper集群管理

    所謂集群管理無在乎兩點:是否有機器退出和加入、選舉master。 

    對于第一點,所有機器約定在父目錄GroupMembers下創建臨時目錄節點,然后監聽父目錄節點的子節點變化消息。一旦有機器掛掉,該機器與 zookeeper的連接斷開,其所創建的臨時目錄節點被刪除,所有其他機器都收到通知:某個兄弟目錄被刪除,于是,所有人都知道:它上船了。

    新機器加入也是類似,所有機器收到通知:新兄弟目錄加入,highcount又有了,對于第二點,我們稍微改變一下,所有機器創建臨時順序編號目錄節點,每次選取編號最小的機器作為master就好。

     



    9.Zookeeper分布式鎖

    有了zookeeper的一致性文件系統,鎖的問題變得容易。鎖服務可以分為兩類,一個是保持獨占,另一個是控制時序。 

    對于第一類,我們將zookeeper上的一個znode看作是一把鎖,通過createznode的方式來實現。所有客戶端都去創建 /distribute_lock 節點,最終成功創建的那個客戶端也即擁有了這把鎖。用完刪除掉自己創建的distribute_lock 節點就釋放出鎖。 

    對于第二類, /distribute_lock 已經預先存在,所有客戶端在它下面創建臨時順序編號目錄節點,和選master一樣,編號最小的獲得鎖,用完刪除,依次方便。

     

    10.Zookeeper隊列管理

    兩種類型的隊列:

    1、同步隊列,當一個隊列的成員都聚齊時,這個隊列才可用,否則一直等待所有成員到達。 

    2、隊列按照 FIFO 方式進行入隊和出隊操作。 

    第一類,在約定目錄下創建臨時目錄節點,監聽節點數目是否是我們要求的數目。 

    第二類,和分布式鎖服務中的控制時序場景基本原理一致,入列有編號,出列按編號。

    11.分布式與數據復制

    Zookeeper作為一個集群提供一致的數據服務,自然,它要在所有機器間做數據復制。數據復制的好處: 

    1、容錯:一個節點出錯,不致于讓整個系統停止工作,別的節點可以接管它的工作; 

    2、提高系統的擴展能力:把負載分布到多個節點上,或者增加節點來提高系統的負載能力; 

    3、提高性能:讓客戶端本地訪問就近的節點,提高用戶訪問速度。 

    從客戶端讀寫訪問的透明度來看,數據復制集群系統分下面兩種: 

    1、寫主(WriteMaster) :對數據的修改提交給指定的節點。讀無此限制,可以讀取任何一個節點。這種情況下客戶端需要對讀與寫進行區別,俗稱讀寫分離; 

    2、寫任意(Write Any):對數據的修改可提交給任意的節點,跟讀一樣。這種情況下,客戶端對集群節點的角色與變化透明。

    對zookeeper來說,它采用的方式是寫任意。通過增加機器,它的讀吞吐能力和響應能力擴展性非常好,而寫,隨著機器的增多吞吐能力肯定下降(這也是它建立observer的原因),而響應能力則取決于具體實現方式,是延遲復制保持最終一致性,還是立即復制快速響應。

    12.Zookeeper角色描述

     

    13.Zookeeper與客戶端

     

    14.Zookeeper設計目的

    1.最終一致性:client不論連接到哪個Server,展示給它都是同一個視圖,這是zookeeper最重要的性能。 

    2.可靠性:具有簡單、健壯、良好的性能,如果消息被到一臺服務器接受,那么它將被所有的服務器接受。 

    3.實時性:Zookeeper保證客戶端將在一個時間間隔范圍內獲得服務器的更新信息,或者服務器失效的信息。但由于網絡延時等原因,Zookeeper不能保證兩個客戶端能同時得到剛更新的數據,如果需要最新數據,應該在讀數據之前調用sync()接口。 

    4.等待無關(wait-free):慢的或者失效的client不得干預快速的client的請求,使得每個client都能有效的等待。 

    5.原子性:更新只能成功或者失敗,沒有中間狀態。 

    6.順序性:包括全局有序和偏序兩種:全局有序是指如果在一臺服務器上消息a在消息b前發布,則在所有Server上消息a都將在消息b前被發布;偏序是指如果一個消息b在消息a后被同一個發送者發布,a必將排在b前面。 

    15.Zookeeper工作原理

    Zookeeper 的核心是原子廣播,這個機制保證了各個Server之間的同步。實現這個機制的協議叫做Zab協議。Zab協議有兩種模式,它們分別是恢復模式(選主)和廣播模式(同步)。當服務啟動或者在領導者崩潰后,Zab就進入了恢復模式,當領導者被選舉出來,且大多數Server完成了和 leader的狀態同步以后,恢復模式就結束了。狀態同步保證了leader和Server具有相同的系統狀態。 

    為了保證事務的順序一致性,zookeeper采用了遞增的事務id號(zxid)來標識事務。所有的提議(proposal)都在被提出的時候加上了zxid。實現中zxid是一個64位的數字,它高32位是epoch用來標識leader關系是否改變,每次一個leader被選出來,它都會有一個新的epoch,標識當前屬于那個leader的統治時期。低32位用于遞增計數。

    16.Zookeeper下Server工作狀態

    每個Server在工作過程中有三種狀態: 

    LOOKING:當前Server不知道leader是誰,正在搜尋

    LEADING:當前Server即為選舉出來的leader

    FOLLOWING:leader已經選舉出來,當前Server與之同步

    17.Zookeeper選主流程baiscpaxos

    當leader崩潰或者leader失去大多數的follower,這時候zk進入恢復模式,恢復模式需要重新選舉出一個新的leader,讓所有的Server都恢復到一個正確的狀態。Zk的選舉算法有兩種:一種是基于basic paxos實現的,另外一種是基于fast paxos算法實現的。系統默認的選舉算法為fast paxos。

    1.選舉線程由當前Server發起選舉的線程擔任,其主要功能是對投票結果進行統計,并選出推薦的Server; 

    2.選舉線程首先向所有Server發起一次詢問(包括自己); 

    3.選舉線程收到回復后,驗證是否是自己發起的詢問(驗證zxid是否一致),然后獲取對方的id(myid),并存儲到當前詢問對象列表中,最后獲取對方提議的leader相關信息(id,zxid),并將這些信息存儲到當次選舉的投票記錄表中; 

    4.收到所有Server回復以后,就計算出zxid最大的那個Server,并將這個Server相關信息設置成下一次要投票的Server; 

    5.線程將當前zxid最大的Server設置為當前Server要推薦的Leader,如果此時獲勝的Server獲得n/2 + 1的Server票數,設置當前推薦的leader為獲勝的Server,將根據獲勝的Server相關信息設置自己的狀態,否則,繼續這個過程,直到leader被選舉出來。 通過流程分析我們可以得出:要使Leader獲得多數Server的支持,則Server總數必須是奇數2n+1,且存活的Server的數目不得少于n+1. 每個Server啟動后都會重復以上流程。在恢復模式下,如果是剛從崩潰狀態恢復的或者剛啟動的server還會從磁盤快照中恢復數據和會話信息,zk會記錄事務日志并定期進行快照,方便在恢復時進行狀態恢復。選主的具體流程圖所示: 

     

    18.Zookeeeper選主流程fastpaxos

    fast paxos流程是在選舉過程中,某Server首先向所有Server提議自己要成為leader,當其它Server收到提議以后,解決epoch和 zxid的沖突,并接受對方的提議,然后向對方發送接受提議完成的消息,重復這個流程,最后一定能選舉出Leader。

     

    19.Zookeeper同步流程

    選完Leader以后,zk就進入狀態同步過程。 

    1. Leader等待server連接; 

    2 .Follower連接leader,將最大的zxid發送給leader; 

    3 .Leader根據follower的zxid確定同步點; 

    4 .完成同步后通知follower 已經成為uptodate狀態; 

    5 .Follower收到uptodate消息后,又可以重新接受client的請求進行服務了。

     

    20.Zookeeper工作流程-Leader

    1 .恢復數據; 

    2 .維持與Learner的心跳,接收Learner請求并判斷Learner的請求消息類型; 

    3 .Learner的消息類型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息,根據不同的消息類型,進行不同的處理。 

    PING 消息是指Learner的心跳信息;

    REQUEST消息是Follower發送的提議信息,包括寫請求及同步請求;

    ACK消息是 Follower的對提議的回復,超過半數的Follower通過,則commit該提議;

    REVALIDATE消息是用來延長SESSION有效時間。

     

    21.Zookeeper工作流程-Follower

    Follower主要有四個功能: 

    1.向Leader發送請求(PING消息、REQUEST消息、ACK消息、REVALIDATE消息); 

    2.接收Leader消息并進行處理; 

    3.接收Client的請求,如果為寫請求,發送給Leader進行投票;

    4.返回Client結果。 

    Follower的消息循環處理如下幾種來自Leader的消息: 

    1 .PING消息: 心跳消息; 

    2 .PROPOSAL消息:Leader發起的提案,要求Follower投票; 

    3 .COMMIT消息:服務器端最新一次提案的信息; 

    4 .UPTODATE消息:表明同步完成; 

    5 .REVALIDATE消息:根據Leader的REVALIDATE結果,關閉待revalidate的session還是允許其接受消息; 

    6 .SYNC消息:返回SYNC結果到客戶端,這個消息最初由客戶端發起,用來強制得到最新的更新。

     


    亚洲日韩av无码综合_女十八AV毛片免费_日韩欧美久久网址_麻豆国产成人av在线_丝袜人妻av天堂