kafka 与zookeeper启动脚本 zookeeper在kafka集群中的作用

转载

数据侠客行 2024-04-01 15:43:29

文章标签 大数据 java 操作系统 zookeeper 服务器 文章分类 运维

Zookeeper是一种在分布式系统中被广泛用来作为：分布式状态管理、分布式协调管理、分布式配置管理、和分布式锁服务的集群。kafka增加和减少服务器都会在Zookeeper节点上触发相应的事件kafka系统会捕获这些事件，进行新一轮的负载均衡，客户端也会捕获这些事件来进行新一轮的处理。

Kafka集群是把状态保存在Zookeeper中的，首先要搭建Zookeeper集群。

Linux服务器一台、三台、五台、（2*n+1），是否可以用偶数，不一定，其实没必要。假设集群中有3台服务器在工作，根据zookeeper的工作原理，只要有半数以上存活，那么整个集群就能对外服务，3台中超过两台超过半数，允许1台挂掉。如果有4台，那么不允许挂掉2台，因为剩余2台的话，也没有超过半数，也就是只允许挂掉1台。
Zookeeper是用java写的所以他的需要JAVA环境，java是运行在java虚拟机上的，本博客有安装方法。
Zookeeper的稳定版本Zookeeper 3.4.6版本

开始搭建

一、环境准备

环境：Centos6，三台服务器，分别是192.168.244.131、192.168.244.133、192.168.244.134，Java版本1.8

Zookeeper3.6.4下载地址  链接：https://pan.baidu.com/s/1XlQ4viDo-q0J66geFyErvQ 提取码：h7to

二、目录创建

在每台机器的/usr/local/创建zookeeper目录，然后分别下载Zookeeper的tag包到/usr/local/zookeeper（项目目录）目录下，在/usr/local/zookeeper创建zkdata（存放快照日志）和zkdataLog（存放事务日志）目录，用于zookeeper的配置。

kafka 与zookeeper启动脚本 zookeeper在kafka集群中的作用_zookeeper

三、解压包，并复制、修改配置文件

# tar -zxvf zookeeper-3.4.6.tar.gz
# cd zookeeper-3.4.6/conf/
# cp zoo_sample.cfg zoo.cfg  //zoo_sample.cfg  这个文件是官方给我们的zookeeper的样板文件，给他复制一份命名为zoo.cfg，zoo.cfg是官方指定的文件命名规则。

//--------------------------------conf start------------------------
# The number of milliseconds of each tick
tickTime=2000  //这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10  //这个配置项是用来配置 Zookeeper 接受客户端（这里所说的客户端不是用户连接 Zookeeper 服务器的客户端，而是 Zookeeper 服务器集群中连接到 Leader 的 Follower 服务器）初始化连接时最长能忍受多少个心跳时间间隔数。当已经超过 5个心跳的时间（也就是 tickTime）长度后 Zookeeper 服务器还没有收到客户端的返回信息，那么表明这个客户端连接失败。总的时间长度就是 5*2000=10 秒，10秒内要启动集群并出现leader和floower。
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5  //这个配置项标识 Leader 与Follower 之间发送消息，请求和应答时间长度，最长不能超过多少个 tickTime 的时间长度，总的时间长度就是5*2000=10秒，超出时间认为是死机。
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/usr/local/zookeeper/zkdata  //快照日志的存储路径
dataLogDir=/usr/local/zookeeper/zkdataLog  //事物日志的存储路径，如果不配置这个那么事物日志会默认存储到dataDir制定的目录，这样会严重影响zk的性能，当zk吞吐量较大的时候，产生的事物日志、快照日志太多
# the port at which the clients will connect
clientPort=12181  //这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。修改他的端口改大点

server.1=192.168.244.131:12888:13888
server.2=192.168.244.133:12888:13888
server.3=192.168.244.134:12888:13888
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
//-------------------------------conf end-----------------------------------



//server.1 这个1是服务器的标识也可以是其他的数字， 表示这个是第几号服务器，用来标识服务器，这个标识要写到快照目录下面myid文件里
//192.168.244.131为集群里的IP地址，第一个端口是master和slave之间的通信端口，默认是2888，第二个端口是leader选举的端口，集群刚启动的时候选举或者leader挂掉之后进行新的选举的端口默认是3888

四、每台服务器创建myid文件

既然在配置文件中设定了每台机器的标识，标识要写在快照目录下面，需要进入zkdata目录下创建，对应好配置文件的ip，和server id。

//server1  192.168.244.131
#echo "1" > /usr/local/zookeeper/zkdata/myid
//server2  192.168.244.133
# echo "2" > /usr/local/zookeeper/zkdata/myid
//server3  192.168.244.134
# echo "3" > /usr/local/zookeeper/zkdata/myid

五、启动三台zookeeper

进入每台zookeeper服务器的/usr/local/zookeeper/zookeeper-3.4.6/bin目录，启动zkServer

# ./zkServer.sh   //查看有哪些命令
JMX enabled by default
Using config: /usr/local/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg
Usage: ./zkServer.sh {start|start-foreground|stop|restart|status|upgrade|print-cmd}

# ./zkServer.sh  start  //启动
JMX enabled by default
Using config: /usr/local/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

下面查看每台zookeeper的状态，这里可能会报错，先把每台的防火墙关掉再执行查看命令

192.168.244.131

# ./zkServer.sh status    //192.168.244.131
JMX enabled by default
Using config: /usr/local/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: follower

192.168.244.133

# ./zkServer.sh  status
JMX enabled by default
Using config: /usr/local/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: leader

192.168.244.134

# ./zkServer.sh  status
JMX enabled by default
Using config: /usr/local/zookeeper/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: follower

leader是表示领导，follower表示是属下，zookeeper集群一般只有一个leader，多个follower，主(leader)一般是相应客户端的读写请求，向（follower）发送数据，而从(follower)主要是同步数据，当主挂掉之后就会从follower里重新选举一个leader出来。

到此，zookeeper集群搭建完毕。

可以用“jps”查看zk的进程，这个是zk的整个工程的main

# jps
4912 Jps
4064 QuorumPeerMain  //zk工程的类

其他说明

一、log4j.properties配置文件

二、zkEnv.sh和zkServer.sh文件

zkServer.sh 主的管理程序文件
zkEnv.sh 是主要配置，zookeeper集群启动时配置环境变量的文件

三、事务日志文件的清理（zoo.cfg的dataLogDir配置项）

工作时会产生大量日志，不清理会沾满自盘，所以需要清理。

官网说明：http://zookeeper.apache.org/doc/r3.3.3/zookeeperAdmin.html#sc_maintenance

kafka 与zookeeper启动脚本 zookeeper在kafka集群中的作用_大数据_02

ZooKeeper server will not remove old snapshots and log files when using the default configuration (see autopurge below), this is the responsibility of the operator

使用默认配置时，ZooKeeper服务器不会删除旧的快照和日志文件（参见下面的自动清除），这是操作员的职责。

自动定时定期清理的脚本，每台机器都需要设定同样的定时任务

#!/bin/bash 
 
#snapshot file dir 
dataDir=/usr/local/zookeeper/zkdata/version-2
#tran log dir 
dataLogDir=/usr/local/zookeeper/zkdatalog/version-2

#Leave 66 files 
count=66 
count=$[$count+1] 
ls -t $dataLogDir/log.* | tail -n +$count | xargs rm -f 
ls -t $dataDir/snapshot.* | tail -n +$count | xargs rm -f 

#以上这个脚本定义了删除对应两个目录中的文件，保留最新的66个文件，可以将他写到crontab中，设置为每天凌晨2点执行一次就可以了。


#zk log dir   del the zookeeper log
#logDir=
#ls -t $logDir/zookeeper.log.* | tail -n +$count | xargs rm -f

举例，让每个星期天的0点0分执行。

# crontab -e
0 0 * * 0 sh /usr/local/zookeeper/cleanup.sh  //分时日月周，周是0-6,0表示周日
# crontab -l

sh /usr/local/zookeeper/cleanup.sh

其他方法：

①使用ZK的工具类PurgeTxnLog，它的实现了一种简单的历史文件清理策略，可以在这里看一下他的使用方法 http://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.html
②对于上面这个执行，ZK自己已经写好了脚本，在bin/zkCleanup.sh中，所以直接使用这个脚本也是可以执行清理工作的。
③从3.4.0开始，zookeeper提供了自动清理snapshot和事务日志的功能，通过配置 autopurge.snapRetainCount 和 autopurge.purgeInterval 这两个参数能够实现定时清理了。这两个参数都是在zoo.cfg中配置的：
autopurge.purgeInterval 这个参数指定了清理频率，单位是小时，需要填写一个1或更大的整数，默认是0，表示不开启自己清理功能。
autopurge.snapRetainCount 这个参数和上面的参数搭配使用，这个参数指定了需要保留的文件数目。默认是保留3个。

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。