Zookeeper安装及使用

新手笔记

尚硅谷Zookeeper


Zookeeper使用

  • Zookeeper安装及使用
  • 基础知识
  • zookeeper安装
  • zookeeper内部原理
  • 节点类型
  • 选举机制
  • Stat 结构体
  • 监听器原理
  • 写数据流程
  • api应用

基础知识

1、概念:Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。
Zookeeper=文件系统+通知机制
2、特点:

  1. Zookeeper:一个领导者(Leader),多个跟随者(Follower)组成的集群。2〉集群中只要有半数以上节点存活,Zookeeper集群就能正常服务。
    3)全局数据一致:每个Server保存一份相同的数据副本,Client无论连接到哪个Server,数据都是一致的。4)更新请求顺序进行,来自同一个Client的更新请求按其发送顺序依次执行。
    5)数据更新原子性,一次数据更新要么成功,要么失败。
    6)实时性,在一定时间范围内,Client能读到最新数据。
    3、数据结构
    ZooKeeper数据模型的结构与Unix文件系统很类似,整体上可以看作是一棵树,每个节点称做一个ZNode。每一个ZNode默认能够存储1MB的数据,每个ZNode都可以通过其路径唯一标识。
    4、应用场景
    提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

统一命名服务:
在分布式环境下,经常需要对应用/服务进行统一命名,便于识别。
例如∶IP不容易记住,而域名容易记住。

统一配置管理:
1)分布式环境下,配置文件同步非常常见。
( 1)一般要求一个集群中,所有节点的配置信息是一致的,比如Kafka集群。
(2)对配置文件修改后,希望能够快速同步到各个节点上。
2)配置管理可交由ZooKeeper实现。
(1 )可将配置信息写入ZooKeeper上的一个Znode。
(2)各个客户端服务器监听这个Znode。
( 3 )一旦Znode中的数据被修改,ZooKeeper将通知各个客户端服务器。

统一集群管理:
1 )分布式环境中,实时掌握每个节点的状态是必要的。
( 1)可根据节点实时状态做出一些调整。
2 ) ZooKeeper可以实现实时监控节点状态变化
( 1 )可将节点信息写入ZooKeeper上的一个ZNode。
( 2)监听这个ZNode可获取它的实时状态变化。

服务器动态上下线:
客户端能实时洞察到服务器上下线的变化。(事件通知)

软负载均衡:
在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求

zookeeper安装

zookeeper官网 安装教程:
linux下zookeeper安装

zookeeper内部原理

节点类型

持久(Persistent):客户端和服务器端断开连接后,创建的节点不删除。

短暂(Ephemeral):客户端和服务器端断开连接后,创建的节点自己删除。

(1)持久化目录节点

客户端与Zookeeper断开连接后,该节点依旧存在

(2)持久化顺序编号目录节点

客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号

(3)临时目录节点

客户端与Zookeeper断开连接后,该节点被删除。

(4)临时顺序编号目录节点

客户端与Zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号。

zookeeper 账号密码 zookeeper登陆_java-zookeeper

说明:创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护
注意:在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序

选举机制

1)半数机制:集群中半数以上机器存活,集群可用。所以Zookeeper适合安装奇数台
服务器

2)Zookeeper虽然在配置文件中并没有指定Master和 Slave。但是,Zookeeper 工作时,是有一个节点为Leader,其他则为Follower,Leader是通过内部的选举机制临时产生的。
在选举时每个服务器启动后,发起一次选举。首先投自己一票。不够半数以上时,选举无法完成,服务器 1状态保持为 LOOKING;再次选举时,如果发现 ID 比自己目前投票推举的大的服务器,更改选票为推举该服务器 。如果存在0服务器票数过半,则当选 Leader。其他服务器更改状态为 FOLLOWING,该服务器更改状态为 LEADING;

Stat 结构体

1 ) czxid-创建节点的事务zxid
每次修改ZooKeeper状态都会收到一个zxid形式的时间戳,也就是ZooKeeper事务ID。事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid,如果zxidl小于zxid2,那么zxid1在 zxid2之前发生。
2) ctime - znode被创建的毫秒数(从1970年开始)3 ) mzxid - znode最后更新的事务zxid
4 ) mtime - znode最后修改的毫秒数(从1970年开始)5) pZxid-znode最后更新的子节点zxid
6) cversion - znode子节点变化号,znode子节点修改次数7) dataversion - znode数据变化号
8) aclVersion - znode访问控制列表的变化号
9) ephemeralOwner-如果是临时节点,这个是znode拥有者的session id。如果不是临时节点则是0。
10) dataLength- znode的数据长度11) numChildren - znode子节点数量

监听器原理

1、监听原理详解︰
1)首先要有一个main()线程
2)在main线程中创建Zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信( connet ) ,一个负责监听( listener )。
3)通过connect线程将注册的监听事件发送给Zookeeper。
4 )在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。
5 ) Zookeeper监听到有数据或路径变化,就会将这个消息发送
给listener线程。
6 ) listener线程内部调用了process()方法。

2、常见的监听

1)监听节点数据的变化

get path [watch]

2)监听子节点增减的变化

ls path [ watch]

zookeeper 账号密码 zookeeper登陆_java-zookeeper_02

写数据流程

zookeeper 账号密码 zookeeper登陆_服务器_03

api应用

添加pom文件

<dependencies>
   <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>


            <dependency>
                <groupId>junit</groupId>
                <artifactId>junit</artifactId>
                <version>RELEASE</version>
            </dependency>
            <!--
            https://mvnrepository.com/artifact/org.apache.zookeeper/zook
            eeper -->
            <dependency>
                <groupId>org.apache.zookeeper</groupId>
                <artifactId>zookeeper</artifactId>
                <version>3.5.6</version>
            </dependency>

    </dependencies>

在项目的 src/main/resources 目录下,新建一个文件,命名为“log4j.properties”

log4j.rootLogger=INFO, stdout 
log4j.appender.stdout=org.apache.log4j.ConsoleAppender 
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout 
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c]- %m%n 
log4j.appender.logfile=org.apache.log4j.FileAppender 
log4j.appender.logfile.File=target/spring.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout 
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c]- %m%n

创建 ZooKeeper 客户端

private static String connectString ="hadoop102:2181,hadoop103:2181,hadoop104:2181";
private static int sessionTimeout = 2000;
private ZooKeeper zkClient = null;
@Before
public void init() throws Exception {
zkClient = new ZooKeeper(connectString, sessionTimeout, 
new Watcher() {
@Override
public void process(WatchedEvent event) {
// 收到事件通知后的回调函数(用户的业务逻辑)
System.out.println(event.getType() + "--" + 
event.getPath());
// 再次启动监听
try {
zkClient.getChildren("/", true);
} catch (Exception e) {
e.printStackTrace();
}
}
});
}

** 创建子节点**:

// 创建子节点
@Test
public void create() throws Exception {
// 参数 1:要创建的节点的路径; 参数 2:节点数据 ; 参数 3:节点权限 ;参数 4:节点的类型
String nodeCreated = zkClient.create("/atguigu", "jinlian".getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT);
}

获取子节点并监听节点变化

// 获取子节点
@Test
public void getChildren() throws Exception {
List<String> children = zkClient.getChildren("/", 
true);
for (String child : children) {
System.out.println(child);
}
// 延时阻塞
Thread.sleep(Long.MAX_VALUE);
}

*判断 Znode 是否存在

// 判断 znode 是否存在
@Test
public void exist() throws Exception {
Stat stat = zkClient.exists("/eclipse", false);
System.out.println(stat == null ? "not exist" : "exist");
}