1.客户端操作命令

命令基本语法

功能描述

help

显示所有操作命令

ls path [watch]

使用 ls 命令来查看当前znode中所包含的内容

ls2 path [watch]

查看当前节点数据并能看到更新次数等数据

create

普通创建

-s  含有序列

-e  临时(重启或者超时消失)

get path [watch]

获得节点的值

set

设置节点的具体值

stat

查看节点状态

delete

删除节点

rmr

递归删除节点

客户端命令行操作:

zk设置账号密码登录 java连接zk zookeeper登录命令_数据

8位命令执行的条数;已经执行8条命令;

 

1.启动客户端

[atguigu@hadoop103 zookeeper-3.5.7]$ bin/zkCli.sh

默认登录本机;

若想登录到其他服务器:

zkCli.sh -server hadoop102:2181

2.显示所有操作命令

[zk: localhost:2181(CONNECTED) 1] help

3.查看当前znode中所包含的内容

[zk: localhost:2181(CONNECTED) 0] ls /

[zookeeper]

4.查看当前节点详细数据

[zk: localhost:2181(CONNECTED) 1] ls2 /

[zookeeper]

cZxid = 0x0

ctime = Thu Jan 01 08:00:00 CST 1970

mZxid = 0x0

mtime = Thu Jan 01 08:00:00 CST 1970

pZxid = 0x0

cversion = -1

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 0

numChildren = 1

5.分别创建2个普通节点

[zk: localhost:2181(CONNECTED) 3] create /test "jinlian"

Created /test

[zk: localhost:2181(CONNECTED) 4] create /test/shuguo "liubei"

Created /test/shuguo

6.获得节点的值

[zk: localhost:2181(CONNECTED) 5] get /test

jinlian

cZxid = 0x100000003

ctime = Wed Aug 29 00:03:23 CST 2018

mZxid = 0x100000003

mtime = Wed Aug 29 00:03:23 CST 2018

pZxid = 0x100000004

cversion = 1

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 7

numChildren = 1

[zk: localhost:2181(CONNECTED) 6]

[zk: localhost:2181(CONNECTED) 6] get  /test/shuguo

liubei

cZxid = 0x100000004

ctime = Wed Aug 29 00:04:35 CST 2018

mZxid = 0x100000004

mtime = Wed Aug 29 00:04:35 CST 2018

pZxid = 0x100000004

cversion = 0

dataVersion = 0

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 6

numChildren = 0

7.创建短暂节点

[zk: localhost:2181(CONNECTED) 7] create -e /sanguo/wuguo "zhouyu"

Created /sanguo/wuguo

(1)在当前客户端是能查看到的

[zk: localhost:2181(CONNECTED) 3] ls /sanguo

[wuguo, shuguo]

(2)退出当前客户端然后再重启客户端

[zk: localhost:2181(CONNECTED) 12] quit

[atguigu@hadoop104 zookeeper-3.5.7]$ bin/zkCli.sh

(3)再次查看根目录下短暂节点已经删除

[zk: localhost:2181(CONNECTED) 0] ls /sanguo

[shuguo]

8.创建带序号的节点

(1)先创建一个普通的根节点/sanguo/weiguo

[zk: localhost:2181(CONNECTED) 1] create /sanguo/weiguo "caocao"

Created /sanguo/weiguo

(2)创建带序号的节点

[zk: localhost:2181(CONNECTED) 2] create -s /sanguo/weiguo/xiaoqiao "jinlian"

Created /sanguo/weiguo/xiaoqiao0000000000

[zk: localhost:2181(CONNECTED) 3] create -s /sanguo/weiguo/daqiao "jinlian"

Created /sanguo/weiguo/daqiao0000000001

[zk: localhost:2181(CONNECTED) 4] create -s /sanguo/weiguo/diaocan "jinlian"

Created /sanguo/weiguo/diaocan0000000002

如果原来没有序号节点,序号从0开始依次递增。如果原节点下已有2个节点,则再排序时从2开始,以此类推。

9.修改节点数据值

[zk: localhost:2181(CONNECTED) 6] set /sanguo/weiguo "simayi"

10.节点的值变化监听

(1)在hadoop104主机上注册监听/sanguo节点数据变化

[zk: localhost:2181(CONNECTED) 26]  get /sanguo watch

(2)在hadoop103主机上修改/sanguo节点的数据

[zk: localhost:2181(CONNECTED) 1] set /sanguo "xisi"

(3)观察hadoop104主机收到数据变化的监听

WATCHER::

WatchedEvent state:SyncConnected type:NodeDataChanged path:/sanguo

11.节点的子节点变化监听(路径变化)

(1)在hadoop104主机上注册监听/sanguo节点的子节点变化

[zk: localhost:2181(CONNECTED) 1] ls /sanguo watch

[aa0000000001, server101]

(2)在hadoop103主机/sanguo节点上创建子节点

[zk: localhost:2181(CONNECTED) 2] create /sanguo/jin "simayi"

Created /sanguo/jin

(3)观察hadoop104主机收到子节点变化的监听

WATCHER::

WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/sanguo

12.删除节点

[zk: localhost:2181(CONNECTED) 4] delete /sanguo/jin

13.递归删除节点

[zk: localhost:2181(CONNECTED) 15] rmr /sanguo/shuguo

14.查看节点状态

[zk: localhost:2181(CONNECTED) 17] stat /sanguo

cZxid = 0x100000003

ctime = Wed Aug 29 00:03:23 CST 2018

mZxid = 0x100000011

mtime = Wed Aug 29 00:21:23 CST 2018

pZxid = 0x100000014

cversion = 9

dataVersion = 1

aclVersion = 0

ephemeralOwner = 0x0

dataLength = 4

numChildren = 1

 

一、ZK的日志配置
1.客户端
        bin/zkEnv.sh 60行  ZOO_LOG4J_PROP="ERROR,CONSOLE"
2.服务端
        bin/zkEnv.sh 脚本前定义 ZOO_LOG_DIR=/opt/module/zookeeper-3.4.10/logs

 

四字命令

安装nc工具;可以向ZK发送四字命令。

nc hadoop101 2181

ruok,conf,cons,crst,dump,envi

监听器原理

1.首先要有一个main线程,在客户端创建ZKClient对象;

2.在main线程中创建Zookeeper的ZKClient客户端,这时就会创建两个线程,一个负责网络连接通信(connect),一个负责监听(listener).

3.通过connect线程将注册的监听事件发生给Zookeeper。

4.在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。

5.Zookeeper监听到有数据或路径变化,就会将这个消息发送给listener线程。

6.listener线程内部调用了process()方法。回调process方法。

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_02

正在上传…重新上传取消

常见的监听

监听节点数据的变化:get path [watch]

监听子节点增减的变化:ls path [watch]

zk设置账号密码登录 java连接zk zookeeper登录命令_服务器_03

help后,看到4个命令后面跟着watch参数,可以设置观察者,在服务器端设置观察者;

服务端的观察者发生变化后,会发送变化到客户端;

观察者失效:观察者只有单次有效

 

选举机制

1.半数机制:集群中半数以上机器存活,集群可用。所以Zookeeper适合安装奇数台服务器。

2.Zookeeper虽然在配置文件中并没有指定Master和Slave。但是,Zookeeper工作时,是有一个节点为Leader,其他则为Follower,Leader是通过内部的选举机制临时产生的。

3.以一个简单的例子来说明整个选举的过程。

假设有五台服务器组成的Zookeeper集群,它们的id从1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的。假设这些服务器依序启动,来看看会发生什么。

启动时,从conf文件中读取到有几个服务器节点;通过3888端口进行选举。

正在上传…重新上传取消

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_04

(1)服务器1启动,发起一次选举。服务器1投自己一票。此时服务器1票数一票,不够半数以上(3票),选举无法完成,服务器1状态保持为LOOKING;

(2)服务器2启动,再发起一次选举。服务器1和2分别投自己一票并交换选票信息:此时服务器1发现服务器2的ID比自己目前投票推举的(服务器1)大,更改选票为推举服务器2。此时服务器1票数0票,服务器2票数2票,没有半数以上结果,选举无法完成,服务器1,2状态保持LOOKING

(3)服务器3启动,发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果:服务器1为0票,服务器2为0票,服务器3为3票。此时服务器3的票数已经超过半数,服务器3当选Leader。服务器1,2更改状态为FOLLOWING,服务器3更改状态为LEADING;一旦有了Leader后续的服务器无论多大的id启动都是FOLLOWER。

(4)服务器4启动,发起一次选举。此时服务器1,2,3已经不是LOOKING状态,不会更改选票信息。交换选票信息结果:服务器3为3票,服务器4为1票。此时服务器4服从多数,更改选票信息为服务器3,并更改状态为FOLLOWING;

(5)服务器5启动,同4一样当小弟。

注:重新选举,只有数据同步完成的服务器,才会参加选举。即数据量多的服务器,若写的数据少,则不能参加选举。

 

写请求

读请求都可以,因为连接每个服务器都可以。

zk设置账号密码登录 java连接zk zookeeper登录命令_服务器_05

1.client向server1端发送写请求,

2.server1不是leader;那么Server1会把接受到的请求进一步转发给Leader,因为每个Zookeeper的Server里面只有一个是leader。这个Leader会将写请求广播给各个Server,如Server1和Server2,各个Server会将该写请求加入待写队列,并向Leader发送成功信息。

3.当Leader收到半数以上的Server的成果信息,就说明该写操作可以执行。Leader会向各个Server发送提交信息,各个Server收到信息后会落实队列列的写请求,此时写成功。

4.Server1会进一步通知Client数据写成功了,这时就认为整个写操作成功。

 

Zookeeper集群高可用性

1.在任意一个客户端进行写操作,数据都会同步到每个客户端。

2.当任意一个客户端掉线时,再上线时,会同步到之前所有的数据。

Zookeeper节点类型

1.持久Persistent:客户端和服务器端断开连接后,创建的节点不删除;

2.短暂Ephemeral:客户端和服务器端断开连接后,创建的节点自己删除;

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_06

1.持久化目录节点

客户端与Zookeeper断开连接后,该节点依旧存在;

2.持久化顺序编号目录节点

客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号;

3.临时目录节点

客户端与Zookeeper断开连接后,该节点被删除;

4.临时顺序编号目录节点

客户端与Zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号。

说明:创建ZNode时设置顺序标识,ZNode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护。

注意:在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序。

 

Stat结构体

1)czxid-创建节点的事务zxid

每次修改ZooKeeper状态都会收到一个zxid形式的时间戳,也就是ZooKeeper事务ID。

事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid,如果zxid1小于zxid2,那么zxid1在zxid2之前发生。

2)ctime - znode被创建的毫秒数(从1970年开始)

3)mzxid - znode最后更新的事务zxid

4)mtime - znode最后修改的毫秒数(从1970年开始)

5)pZxid-znode最后更新的子节点zxid

6)cversion - znode子节点变化号,znode子节点修改次数

7)dataversion - znode数据变化号

8)aclVersion - znode访问控制列表的变化号

9)ephemeralOwner- 如果是临时节点,这个是znode拥有者的session id。如果不是临时节点则是0。

10)dataLength- znode的数据长度

11)numChildren - znode子节点数量

 

Paxos算法(扩展)

Paxos算法一种基于消息传递且具有高度容错特性的一致性算法。

分布式系统中的节点通信存在两种模型:共享内存(Shared memory)和消息传递(Messages passing)。基于消息传递通信模型的分布式系统,不可避免的会发生以下错误:进程可能会慢、被杀死或者重启,消息可能会延迟、丢失、重复,在基础 Paxos 场景中,先不考虑可能出现消息篡改即拜占庭错误的情况。Paxos 算法解决的问题是在一个可能发生上述异常的分布式系统中如何就某个值达成一致,保证不论发生以上任何异常,都不会破坏决议的一致性。

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_07

       Paxos算法流程中的每条消息描述如下:

  1. Prepare: Proposer生成全局唯一且递增的Proposal ID (可使用时间戳加Server ID),向所有Acceptors发送Prepare请求,这里无需携带提案内容,只携带Proposal ID即可。
  2. Promise: Acceptors收到Prepare请求后,做出“两个承诺,一个应答”。

两个承诺:

     a.不再接受Proposal ID小于等于(注意:这里是<= )当前请求的Prepare请求。

     b.不再接受Proposal ID小于(注意:这里是< )当前请求的Propose请求。

一个应答:

     c.不违背以前做出的承诺下,回复已经Accept过的提案中Proposal ID最大的那个提案的Value和Proposal ID,没有则返回空值。

      3.Propose: Proposer 收到多数Acceptors的Promise应答后,从应答中选择Proposal ID最大的提案的Value,作为本次要发起的提案。如果所有应答的提案Value均为空值,则可以自己随意决定提案Value。然后携带当前Proposal ID,向所有Acceptors发送Propose请求。

      4.Accept: Acceptor收到Propose请求后,在不违背自己之前做出的承诺下,接受并持久化当前Proposal ID和提案Value。

      5.Learn: Proposer收到多数Acceptors的Accept后,决议形成,将形成的决议发送给所有Learners。

下面我们针对上述描述做三种情况的推演举例:为了简化流程,我们这里不设置Learner。

情况1:

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_08

情况2:

zk设置账号密码登录 java连接zk zookeeper登录命令_客户端_09

       Paxos算法缺陷:在网络复杂的情况下,一个应用Paxos算法的分布式系统,可能很久无法收敛,甚至陷入活锁的情况。

情况3:

zk设置账号密码登录 java连接zk zookeeper登录命令_数据_10

       造成这种情况的原因是系统中有一个以上的Proposer,多个Proposers相互争夺Acceptors,造成迟迟无法达成一致的情况。针对这种情况,一种改进的Paxos算法被提出:从系统中选出一个节点作为Leader,只有Leader能够发起提案。这样,一次Paxos流程中只有一个Proposer,不会出现活锁的情况,此时只会出现例子中第一种情况。