zk基础说明
ID | 概要 |
1 | zk概要 |
2 | zk的产生背景 |
3 | zk的作用 |
4 | zk的常规使用与常规的配置文件说明 |
5 | zk的节点类型 |
6 | zk的客户端的一些命令操作 |
zookeeper应用场景
ID | 名称 | 说明 |
001 | 命名服务 Name Service | 依赖 Zookeeper 可以生成全局唯一的节点 ID,来对分布式系统中的资源进行管理 |
002 | 分布式通知/协调 | 利用 Zookeeper 创建临时顺序节点的特性。这是 Zookeeper 的核心使用了。利用 Wather 的监听机制,一个系统的某个节点状态发生改变,另外系统可以得到通知。 |
003 | 集群管理 | 分布式集群中状态的监控和管理,使用 Zookeeper 来存储。 |
004 | 集群管理与Master选举 | 利用 Zookeeper 节点的全局唯一性,同时只有一个客户端能够创建成功的特点,可以作为 Master 选举使用,创建成功的则作为 Master。 |
005 | 分布式锁 | 利用 Zookeeper 创建临时顺序节点的特性 |
006 | 数据发布与订阅(配置中心) | |
007 | 负载均衡 | |
008 | 分布式队列 | 在分布式项目中作用巨大。 |
zookeeper概要
Zookeeper是一个分布式数据一致性的解决方案,分布式应用可以基于它实现诸如数据发布/订阅,负载均衡,命名服务,分布式协调/通知,集群管理,Master选举,
分布式锁和分布式队列等功能。Zookeeper致力于提供一个高性能、高可用、且具有严格的顺序访问控制能力的分布式协调系统
ZooKeeper是用于分布式应用程序的协调服务。它公开了一组简单的API,
分布式应用程序可以基于这些API用于同步,节点状态、配置等信息、服务注册等信息。其由JAVA编写,支持JAVA 和C两种语言的客户端。
zookeeper产生背景
随着互联网时代的发展项目已经从单点项目到现在的分布式项目,部署在多个服务器上随着而来产生多个节点之间的协同问题
1. 各个项目之间的RPC调用如何进行服务发现
2. 如何保证任务在那个节点执行
3. 如何保证并发请求的幂等
4. 如何保证容错...
这些问题可以统一归纳为多节点协调问题,如果靠节点自身进行协调这是非常不可靠的,性能上也不可取。
必须由一个独立的服务做协调工作,它必须可靠,而且保证性能。
znode 节点
zookeeper 中数据基本单元叫节点,节点之下可包含子节点,最后以树级方式程现。每个节点拥有唯一的路径path。客户端基于PATH上传节点数据,zookeeper 收到后会实时通知对该路径进行监听的客户端。
zookeeper 基于JAVA开发,下载后只要有对应JVM环境即可运行。其默认的端口号是2181运行前得保证其不冲突
版本说明
2019年5月20日发行的3.5.5是3.5分支的第一个稳定版本。此版本被认为是3.4稳定分支的后续版本,可以用于生产。基于3.4它包含以下新功能
- 动态重新配置
- 本地会议
- 新节点类型:容器,TTL
- 原子广播协议的SSL支持
- 删除观察者的能力
- 多线程提交处理器
- 升级到Netty 4.1
- Maven构建
另请注意:建议的最低JDK版本为1.8
文件说明:
- apache-zookeeper-xxx-tar.gz 代表源代码
- apache-zookeeper-xxx-bin.tar.gz 运行版本
下载地址:https://zookeeper.apache.org/releases.html#download 具体部署流程:
#下载
wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache-zookeeper-3.5.5-bin.tar.gz
#解压
tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz
#拷贝默认配置
cd {zookeeper_home}/conf
cp zoo_sample.cfg zoo.cfg
#启动
{zookeeper_home}/bin/zkServer.sh
./bin/zkServer.sh start
常规配置文件说明
# zookeeper时间配置中的基本单位 (毫秒)
tickTime=2000
# 允许follower初始化连接到leader最大时长,它表示tickTime时间倍数 即:initLimit*tickTime
initLimit=10
# 允许follower与leader数据同步最大时长,它表示tickTime时间倍数
syncLimit=5
#zookeper 数据存储目录
dataDir=/tmp/zookeeper
#对客户端提供的端口号
clientPort=2181
#单个客户端与zookeeper最大并发连接数
maxClientCnxns=60
# 保存的数据快照数量,之外的将会被清除
autopurge.snapRetainCount=3
#自动触发清除任务时间间隔,小时为单位。默认为0,表示不自动清除。
autopurge.purgeInterval=1
客户端命令
基本命令列表
1.close
关闭当前会话
2.connect host:port
重新连接指定Zookeeper服务
create \[-s] \[-e] \[-c] \[-t \ttl] path [data] \[acl]
3.创建节点
delete [-v version] path
删除节点,(不能存在子节点)
4.deleteall path
删除路径及所有子节点
5.setquota -n|-b val path
设置节点限额 -n 子节点数 -b 字节数
6.listquota path
查看节点限额
7.delquota [-n|-b] path
删除节点限额
8.get \[-s] \[-w] path
查看节点数据 -s 包含节点状态 -w 添加监听
getAcl [-s] path
9.ls \[-s] \[-w] \[-R] path
列出子节点 -s状态 -R 递归查看所有子节点 -w 添加监听
10.printwatches on|off**
是否打印监听事件
11.quit
退出客户端
12.history
查看执行的历史记录
13.redo cmdno
重复 执行命令,history 中命令编号确定
14.removewatches path \[-c|-d|-a] \[-l]
删除指定监听
15.set \[-s] \[-v version] path data
设置值
16.setAcl \[-s] \[-v version] \[-R] path acl
为节点设置ACL权限
17.stat [-w] path
查看节点状态 -w 添加监听
18.sync path
强制同步节点
node数据的增删改查
# 列出子节点
ls /
#创建节点
create /qiurunze "qiurunze is good man"
# 查看节点
get /qiurunze
# 创建子节点
create /qiurunze/sex "man"
# 删除节点
delete /qiurunze/sex
# 删除所有节点 包括子节点
deleteall /qiurunze
三、Zookeeper节点介绍
知识点:
- 节点类型
- 节点的监听(watch)
- 节点属性说明(stat)
- 权限设置(acl)
zookeeper 中节点叫znode存储结构上跟文件系统类似,以树级结构进行存储。不同之外在于znode没有目录的概念,不能执行类似cd之类的命令。znode结构包含如下:
- path:唯一路径
- childNode:子节点
- stat:状态属性
- type:节点类型
节点类型
类型 | 描述 |
PERSISTENT | 持久节点 |
PERSISTENT_SEQUENTIAL | 持久序号节点 |
EPHEMERAL | 临时节点(不可在拥有子节点) |
EPHEMERAL_SEQUENTIAL | 临时序号节点(不可在拥有子节点) |
- PERSISTENT(持久节点)
持久化保存的节点,也是默认创建的
#默认创建的就是持久节点
create /test
- PERSISTENT_SEQUENTIAL(持久序号节点)
创建时zookeeper 会在路径上加上序号作为后缀,。非常适合用于分布式锁、分布式选举等场景。创建时添加 -s 参数即可。
#创建序号节点
create -s /test
#返回创建的实际路径
Created /test0000000001
create -s /test
#返回创建的实际路径2
Created /test0000000002
- EPHEMERAL(临时节点)
临时节点会在客户端会话断开后自动删除。适用于心跳,服务发现等场景。创建时添加参数-e 即可。
#创建临时节点, 断开会话 在连接将会自动删除
create -e /temp
- EPHEMERAL_SEQUENTIAL(临时序号节点)
与持久序号节点类似,不同之处在于EPHEMERAL_SEQUENTIAL是临时的会在会话断开后删除。创建时添加 -e -s
create -e -s /temp/seq
节点属性
# 查看节点属性
stat /qiurunze
其属性说明如下表:
#创建节点的事物ID
cZxid = 0x385
#创建时间
ctime = Tue Sep 24 17:26:28 CST 2019
#修改节点的事物ID
mZxid = 0x385
#最后修改时间
mtime = Tue Sep 24 17:26:28 CST 2019
# 子节点变更的事物ID
pZxid = 0x385
#这表示对此znode的子节点进行的更改次数(不包括子节点)
cversion = 0
# 数据版本,变更次数
dataVersion = 0
#权限版本,变更次数
aclVersion = 0
#临时节点所属会话ID
ephemeralOwner = 0x0
#数据长度
dataLength = 17
#子节点数(不包括子子节点)
numChildren = 0
节点的监听:
客户添加 -w 参数可实时监听节点与子节点的变化,并且实时收到通知。非常适用保障分布式情况下的数据一至性。其使用方式如下:
命令 | 描述 |
ls -w path | 监听子节点的变化(增,删) |
get -w path | 监听节点数据的变化 |
stat -w path | 监听节点属性的变化 |
printwatches on|off | 触发监听后,是否打印监听事件(默认on) |
acl权限设置
ACL全称为Access Control List(访问控制列表),用于控制资源的访问权限。ZooKeeper使用ACL来控制对其znode的防问。基于scheme🆔permission的方式进行权限控制。scheme表示授权模式、id模式对应值、permission即具体的增删改权限位。
scheme:认证模型
方案 | 描述 |
world | 开放模式,world表示全世界都可以访问(这是默认设置) |
ip | ip模式,限定客户端IP防问 |
auth | 用户密码认证模式,只有在会话中添加了认证才可以防问 |
digest | 与auth类似,区别在于auth用明文密码,而digest 用sha-1+base64加密后的密码。在实际使用中digest 更常见。 |
permission权限位
权限位 | 权限 | 描述 |
c | CREATE | 可以创建子节点 |
d | DELETE | 可以删除子节点(仅下一级节点) |
r | READ | 可以读取节点数据及显示子节点列表 |
w | WRITE | 可以设置节点数据 |
a | ADMIN | 可以设置节点访问控制列表权限 |
acl 相关命令:
命令 | 使用方式 | 描述 |
getAcl | getAcl | 读取ACL权限 |
setAcl | setAcl | 设置ACL权限 |
addauth | addauth | 添加认证用户 |
world权限****示例
语法: setAcl world:anyone:<权限位>
注:world模式中anyone是唯一的值,表示所有人
- 查看默认节点权限:
#创建一个节点
create -e /testAcl
#查看节点权限
getAcl /testAcl
#返回的默认权限表示 ,所有人拥有所有权限。
'world,'anyone: cdrwa
- 修改默认权限为 读写
#设置为rw权限
setAcl /testAcl world:anyone:rw
# 可以正常读
get /testAcl
# 无法正常创建子节点
create -e /testAcl/t "hi"
# 返回没有权限的异常
Authentication is not valid : /testAcl/t
IP权限示例:
语法: setAcl ip:<ip地址|地址段>:<权限位>
auth模式示例:
语法:
- setAcl auth:<用户名>:<密码>:<权限位>
- addauth digest <用户名>:<密码>
digest 权限示例:
语法:
- setAcl digest :<用户名>:<密钥>:<权限位>
- addauth digest <用户名>:<密码>
注1:密钥 通过sha1与base64组合加密码生成,可通过以下命令生成
echo -n <用户名>:<密码> | openssl dgst -binary -sha1 | openssl base64
注2:为节点设置digest 权限后,访问前必须执行addauth,当前会话才可以防问。
- 设置digest 权限
#先 sha1 加密,然后base64加密
echo -n qiurunze:123456 | openssl dgst -binary -sha1 | openssl base64
#返回密钥
2Rz3ZtRZEs5RILjmwuXW/wT13Tk=
#设置digest权限
setAcl /qiurunze digest:qiurunze:2Rz3ZtRZEs5RILjmwuXW/wT13Tk=:cdrw
- 查看节点将显示没有权限
#查看节点
get /qiurunze
#显示没有权限访问
org.apache.zookeeper.KeeperException$NoAuthException: KeeperErrorCode = NoAuth for /qiurunze
- 给当前会话添加认证后在次查看
#给当前会话添加权限帐户
addauth digest qiurunze:123456
#在次查看
get /qiurunze
#获得返回结果
qiurunze is good man
ACL的特殊说明:
权限仅对当前节点有效,不会让子节点继承。如限制了IP防问A节点,但不妨碍该IP防问A的子节点 /A/B。