源自 IBM developerWorkshttp://www.ibm.com/developerworks/cn/opensource/os-cn-zookeeper/index.html安装和配置详解本文介绍的 Zookeeper 是以 3.2.2 这个稳定版本为基础,最新的版本可以通过官网 http://hadoop.apache.org/zookeeper/来获取,Zookeeper 的安
介绍zookeeper单机多实例部署(实验性质)以及生产环境的分布式部署 1. 准备工作: 1)需要linux环境,推荐用ubuntu的系统。学习的话使用oracle的virtual box安装虚拟机,网上找下安装文档就可以装好了,而生产环境一般都会装好的。ubuntu下载链接:32位:http://mirrors.zju
ZooKeeper是一个高可用的分布式数据管理与系统协调框架。基于对Paxos算法的实现,使该框架保证了分布式环境中数据的强一致性,也正是基于这样的特性,使得ZooKeeper解决很多分布式问题。网上对ZK的应用场景也有不少介绍,本文将结合作者身边的项目例子,系统地对ZK的应用场景进行一个分门归类的介绍。值得注意的是,ZK并非天生就是为这些应用场景设计的,都是后来众多开发者根据其框架的特性,利用其
本文以ZooKeeper3.4.3版本的官方指南为基础:http://zookeeper.apache.org/doc/r3.4.3/zookeeperAdmin.html,补充一些作者运维实践中的要点,围绕ZK的部署和运维两个方面讲一些管理员需要知道的东西。本文并非一个ZK搭建的快速入门,关于这方面,可以查看《ZooKeeper快速搭建》。1.部署本章节主要讲述如何部署ZooKeeper,包括以
译自http://zookeeper.apache.org/doc/trunk/zookeeperOver.htmlZooKeeper是一个用于分布式应用的开源分布式协调服务。它提供了简单的原语集合,分布式应用可在这些原语之上构建用于同步、配 置维护、分组和命名的高层服务。ZooKeeper的设计使得编程容易,并且使用类似于广泛熟知的文件系统目录树结构的数据模型。它运行在Java环境 中,但是有J
Leader选举ZooKeeper 需要在所有的服务(可以理解为服务器)中选举出一个 Leader ,然后让这个 Leader 来负责管理集群。此时,集群中的其它服务器则成为此 Leader 的 Follower 。并且,当 Leader 故障的时候,需要 ZooKeeper 能够快速地在 Follower 中选举出下一个 Leader 。这就是 ZooKeeper 的 Leader 机制,下面我
ZooKeeper限制客户端连接数问题:最近发现ZooKeeper服务器上的连接数过多,都是连接zookeeper的。解决方案:通过查询分析,发现zookeeper的一个客户端使用有问题,创建的连接过多导致的。zookeeper有没有相应的功能能做下限制呢?查看zookeeper的配置参数,可以发现zookeeper的可以通过相应的配置来限制某ip的连接数。maxClientCnxns这个配置参数
ZooKeeper安装部署1.下载安装JDK:ZooKeeper 要求 JAVA 的环境才能运行,并且需要 JAVA6 以上的版本,下载安装JDK,并配置环境变量;2.下载安装ZooKeeper:(集群安装建议至少安装2n+1台,n>0)下载zookeeper的安装包,解压到指定目录;下载地址:http://zookeeper.apache.org/releases.html3.配置ZooK
客户端对ZK的更新操作都是永久的,不可回退的,也就是说,一旦客户端收到一个来自server操作成功的响应,那么这个变更就永久生效了。为做到这点,ZK会将每次更新操作以事务日志的形式写入磁盘,写入成功后才会给予客户端响应。明白这点之后,你就会明白磁盘的吞吐性能对于ZK的影响了,磁盘写入速度制约着ZK每个更新操作的响应。为了尽量减少ZK在读写磁盘上的性能损失,可以考虑使用单独的磁盘作为事务日志的输出(
ZooKeeper监控有以下几种方法: ZK提供一些简单但是功能强大的4字命令,通过对这些4字命令的返回内容进行解析,可以获取不少关于ZK运行时的信息。 用jmx也能够获取一些运行时信息,详细可以查看这里:http://zookeeper.apache.org/doc/r3.4.3/zookeeperJMX.html 淘宝网已经实现的一个ZooKeeper监控——Ta
服务的启动与停止:找到 %zkHome%\bin 目录,通过该目录下的zkServer.sh启动 zkServer.sh start停止 zkServer.sh stop重启 zkServer.sh restart查看ZK服务状态 zkServer.sh statuszk客户端命令:ZooKeeper命令行工具类似于Linux的shell环境,不过功能肯定不及shell啦,但 是使用它我们可以简单
ZooKeeper Administrator's GuideA Guide to Deployment and Administrationhttp://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.htmlZooKeeper管理指南--在线PDFhttps://cloud.github.com/downloads/nileader/ZooKeep
配置文件说明,官网的最权威ZooKeeper官网配置参数详解http://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.html#sc_minimumConfiguration 下面列出一些自认为比较有用和重要的参数:clientPort客户端连接server的端口,即对外服务端口,一般设置为2181吧。dataDir存储快照文件snapshot的目
zookeeper启动异常1. 新部署的zookeeper或清理过数据信息后,启动zookeeper的时候报错并启动失败。此时可能是以下几个方面引起的:在数据目录下就是dataDir参数指定的那个目录下,没有创建myid文件,需要自己创建myid文件,并在myid文件中写上这个Server ID数字。没有创建日志文件路径即dataLogDir目录,一定要创建到logs文件夹。创建完以上两个文件后可
1. 为什么选择奇数台机器部署zookeeper集群:关于ZooKeeper,需要明确一个很重要的特性:集群中只要有过半的机器是正常工作的,那么整个集群对外就是可用的,即过半存活即可用。部署奇数台机器可以充分利用集群中的每个节点提供容灾能力。如果想搭建一个能够允许F台机器down掉的集群,那么就要部署一个由2xF+1 台机器构成的ZK集群。通常都建议尝试跨机房部署。2. Server的自检恢复&n
ZooKeeper观察节点ZooKeeper中有一个“观察节点”(observer node)的概念,指没有投票权的跟随者。由于观察节点不参与写请求过程中达成共识的投票,因此使用观察节点可以让ZooKeeper集群在不影响写性能的情况下提高读操作的性能。此外,将投票节点安放在一个数据中心,将观察节点安放在另一个数据中心,可以使ZooKeeper集群跨越多个数据中心。
分布式锁在一组进程之间提供了一种互斥机制。在任何时刻,只有一个进程可以持有锁。分布式锁可以应用于大型分布式系统中实现领导者选举,在任何时间点,持有锁的进程就是系统的领导者。为了使用ZooKeeper来实现分布式锁服务,我们使用顺序znode来为那些竞争锁的进程强制排序。实现思路很简单:首先指定一个作为锁的znode,通常用它来描述被锁定的实体,称为/leader;然后希望获得锁的客户端创建一些短暂
Zookeeper一般会出现以下两种故障:1. Zookeeper进程挂掉;2. Zookeeper进程还在,但不提供服务;(提示:This ZooKeeper instance is not currently serving requests)Zookeeper故障监控:1. 针对zookeep
ZooKeeper服务有两种不同的运行模式。独立模式(standalone mode)和复制模式(replicated mode). 独立模式:简单,适合于测试环境,不能保证高可用性和恢复性。 复制模式:适合生产环境,运行于一个计算机集群上,通过复制来实现高可用性,只要集合体中半数以上的机器处于可用状态,它就能提供服务。因此集合体通常包含奇数台机器。 ZooKeeper概念:它所做的就是确保对zn
ZooKeeper构建配置服务 * 配置服务是分布式应用所需要的基本服务之一,它使集群中的机器可以共享配置信息中那些公共的部分。 * 简单的说,ZooKeeper可以作为一个具有高可用性的配置存储器,允许分布式应用的参与者检索和更新配置文件。 * 使用ZooKeeper中的观察机制,可以建立一个活跃的配置服务,使那些感兴趣的客户端能够获得
ZooKeeper服务详解ZooKeeper是一个具有高可用性的高性能的协调服务。1.数据模型ZooKeeper维护着一个树形层次结构,树中的节点被称为znode。znode可以用于存储数据,并与之相关联一个ACL。通常存储小数据文件,限制在1MB以内。ZooKeeper的数据访问具有原子性。客户端在读取一个znode数据时,要么读到所有数据,要么操作失败,不能只读到部分数据。写数据也同样。zno
ZooKeeper在线APIhttp://zookeeper.apache.org/doc/r3.4.6/api/index.htmlZooKeeper API共包含5个包,分别为:org.apache.zookeeper,org.apache.zookeeper.data,org.apache.zookeeper.server,org.apache.zookeeper.server.quorum
ZookeeperZooKeeper 是一个为分布式应用所设计的分布的、开源的协调服务。分布式的应用可以建立在同步、配置管理、分组和命名等服务的更高级别的实现的基础之上。 ZooKeeper 意欲设计一个易于编程的环境,它的文件系统使用我们所熟悉的目录树结构。ZooKeeper Server是一个Java语言实现的分布式协调服务框架,因此需要6或更高版本的JDK支持。Zookeeper主要使用于构
zookeeper是hbase集群的"协调器"。由于zookeeper的轻量级特性,因此我们可以将多个hbase集群共用一个zookeeper集群,以节约大量的服务器。多个hbase集群共用zookeeper集群的方法是使用同一组ip,修改不同hbase集群的"zookeeper.znode.parent"属性,让它们使用不同的根目录。比如cluster1使
Copyright © 2005-2024 51CTO.COM 版权所有 京ICP证060544号