您现在的位置是:首页 > 正文

Zookeeper集群部署和使用

2024-02-29 12:59:11阅读 0

Zookeeper 由 Apache Hadoop 的 Zookeeper 子项目发展而来,Google Chubby的一个开源实现。ZooKeeper是一个分布式应用程序协调服务,提供的功能包括:配置管理,名字服务,提供分布式同步、队列管理、集群管理等。所有这些类型的服务都以分布式应用程序的某种形式使用。每次实施它们都需要做很多工作来修复不可避免的错误和竞争条件。由于难以实现这些类型的服务,应用程序最初通常会吝啬它们,这使得它们在变化的情况下变得脆弱并且难以管理。即使正确完成,这些服务的不同实现也会在部署应用程序时导致管理复杂性。从设计模式角度来看,是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应,从而实现集群中类似 Master/Slave

zookeeper官方下载地址:https://www.apache.org/dyn/closer.cgi/zookeeper/

部署环境:centos 7; zookeeper-3.4.13 ;jdk1.8

1. jdk安装与环境变量配置。
这块内容直接略过,不会的自行百度。

2. zookeeper安装与配置
我这里已提前下载好zookeeper包

2.1解压并修改zoo.cfg配置文件

[root@localhost opt]#  tar -xvf zookeeper-3.4.12.tar.gz
[root@localhost opt]#  mv zookeeper-3.4.12 zookeeper
[root@localhost opt]#  mv zookeeper /app
[root@localhost opt]#  cd /opt/zookeeper
[root@localhost opt]#  mkdir data
[root@localhost zookeeper]# mv conf/zoo_sample.cfg  conf/zoo.cfg
[root@localhost zookeeper]# vim conf/zoo.cfg
# The number of milliseconds of each tick
tickTime=2000   //Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔,每隔tickTime时间就会发送一个心跳,单位毫秒,最小的session过期时间为tickTime的两倍,ZK中的其他时间都是以这个为倍数的。
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10    //表示允许从服务器(相对于leader来说的客户端)连接到leader并完成数据同步的时间,它是以tickTime的倍数来表示的,也就是从服务器与主服务器完成初始化连接和数据同步是能够容忍多少个心跳时间,如果超过这个时间不能完成初始化连接的建立则表示连接失败。默认是10.如果你的数据量过大而且从服务器数量也多那么这个值可以设置大一点。。总的时间长度就是 initLimit * tickTime 秒。
#LeaderServes       用于配置Leader服务器是否接受客户端的连接,是否允许Leader向客户端直接提供服务,默认是可以的。
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5     //配置 Leader 与 Follower 之间发送消息,请求和应答时间长度,最长不能超过多少个 tickTime 的时间长度,总的时间长度就是 syncLimit * tickTime 秒 ,如果在这个时间内从服务器不能与主服务器通信,则表示该从服务器失败。默认为5.如果集群环境网络不佳可以调整大一点。
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/opt/zookeeper/data     //Zookeeper 保存数据的数据库快照的位置,默认是/tmp/zookeeper,快照文件并不是实时的,运行一段时间才会有。
dataLogDir=/opt/zookeeper/logs  //事务日志日志路径,若没提供的话则用dataDir。zookeeper的持久化都存储在这两个目录里,对ZK的读和写都是在内存中完成,所以速度非常快,但是如果停止ZK再启动数据还是需要保证的,所以就会有这样一个路径用来保存事务日志,当ZK再次启动时加载到内存重演过程来恢复数据。dataLogDir里是放到的顺序日志(WAL),指定的目录下有version-2文件夹(下有log.1文件),这个目录确定了当前事务日志的版本号,当下次某个版本的ZK对其进行修改时,版本号发生变化。日志文件大小为64M,如果数据比较多就会有多个这样大小的文件。而dataDir里放的是内存数据结构的snapshot,便于快速恢复。为了达到性能最大化,一般建议把dataDir和dataLogDir分到不同的磁盘上,建议将事物日志保存到单独的磁盘而且是高速磁盘。因为为了一致性,ZK对于客户端的写入请求在返回之前就要把本次操作写入到事物日志中
# the port at which the clients will connect
clientPort=2181     //Zookeeper服务器监听的端口,以接受客户端的访问请求。
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60        限制连接到ZK上的客户端数量,并且限制并发连接数量,它通过IP来区分不同客户端。值为0表示不做任何限制。注意这里的限制是针对单台客户端到服务器的,并不是控制所有客户端连接的。默认60.
#minSessionTimeout=120     最小会话超时时间,默认为tickTime的2倍。不建议把这个值设置的比tickTime小。客户端连接到ZK时如果在这个最小时间内没有和ZK联系则标记为超时,也就是说会断开。
#maxSessionTimeout=2400     最大会话超时时间,默认为20倍的最小会话超时时间。不建议把这个值设置的比tickTime小。客户端连接到ZK时如果在这个最大时间内没有和ZK联系则标记为超时。所以上面的参数和这个参数组成了一个时间范围,也就是客户端连接ZK时如果在这个时间范围内没有成功连接则会标记为超时。如果客户端设置的时间范围不在这个服务器设置的范围内,则会被强制应用服务器设置的范围。
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3              自动清理日志,该参数设置保留多少个快照文件和对应的事务日志文件,默认为3,如果你设置的小于3则会被自动的调整为3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1                     自动清理日志,该参数设置自动清理频率,上面的参数配套使用。客户端在和ZK服务器交互中服务器会产生很多日志,而且ZK会将内存中的数据作为快照保存起来,而且这些数据不会自动删除,那么磁盘空间就会被占用,可以设置这2个参数来自动清理,不过如果ZK服务器比较繁忙而且赶上删除日志任务就会影响性能,所以一般不设置这个自动清理,而是在ZK访问量少的时候通过Linux的定时任务来处理。0表示不开启自动清理功能。
#globalOutstandingLimit    ZK的最大请求堆积数,客户端请求比较多,为了防止客户端资源过度消耗,服务器必须限制同时处理的请求数量。
#preAllocSize   用于配置ZK事务日志预先分配的空间,默认是64M
#snapCount     用于配置相邻两次快照之间的事物日志次数,默认是10万。也就是10万条事务之后做一次快照同时结转事务日志
#clientPortAddres     这个参数针对多网卡的ZK服务器,允许为每个IP地址指定不同的监听端口。
#fsync.warningthresholdms     用于设置ZK服务器事物日志同步操作时消耗时间的报警阈值,如果实际消耗时长超过这个时间日志就会记录。
#electionAlg    用于配置Leader选举算法,目前只有一种选举算法,所以不用配置。
#cnxTimeout    用于Leader选举时各个服务器之间进行的TCP连接创建超时时间,默认为5.
#forceSync       这个参数用于配置ZK服务器是否在事物提交时是否强制写入磁盘(LINUX的延迟写入),默认是YES。
#jute.maxbuffer    用于配置单个数据节点上最大数量,默认是1MB。通常不需要改动该参数,但是因为Zookeeper不适合存放太多数据所以有时候需要把值改小
#skipACL    是否跳过ACL检查,默认是no,也就是会对所有客户端连接进行acl检查。
server.1=172.16.148.132:2888:3888
server.2=172.16.148.133:2888:3888
server.3=172.16.148.134:2888:3888
// server.n n是一个数字,表示这个是第几号服务器;“=”号后面是对应几号服务器的IP地址,第一个端口2888是集群中从服务器(follower)连接到主服务器(leader)的端口,也就是作为leader时使用的,其他从服务器都连接到主服务器的这个端口;第二个端口3888表示的是进行leader选举时使用的端口。

2.2把zookeeper加入到环境变量

#把zookeeper加入到环境变量

echo -e "# append zk_env\nexport PATH=$PATH:/opt/zookeeper/bin" >> /etc/profile

2.3、创建ServerID标识
除了修改zoo.cfg配置文件外,zookeeper集群模式下还要配置一个myid文件,这个文件需要放在dataDir目录下。

这个文件里面有一个数据就是A的值(该A就是zoo.cfg文件中server.A:B:C:D中的A),在zoo.cfg文件中配置的dataDir路径中创建myid文件。

#在172.16.148.132服务器上面创建myid文件,并设置值为1,同时与zoo.cfg文件里面的server.1保持一致,如下

echo "1" > /opt/zookeeper/data/myid

#在172.16.148.133服务器上面创建myid文件,并设置值为2,同时与zoo.cfg文件里面的server.2保持一致,如下

echo "2" > /opt/zookeeper/data/myid

#在172.16.148.134服务器上面创建myid文件,并设置值为3,同时与zoo.cfg文件里面的server.3保持一致,如下

echo "3" > /opt/zookeeper/data/myid

到此,相关配置已完成。

3.Zookeeper集群查看
3.1、启动每个服务器上面的zookeeper节点:

分别在三台服务器上启动zookeeper

/opt/zookeeper/bin/zkServer.sh start

3.2、启动完成之后查看每个节点的状态
服务器:172.16.148.132

root@localhost ~]# /opt/zookeeper/bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper/bin/../conf/zoo.cfg
Mode: follower

服务器:172.16.148.133

root@localhost ~]# /opt/zookeeper/bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper/bin/../conf/zoo.cfg
Mode: follower

服务器:172.16.148.134

[root@localhost ~]# /opt/zookeeper/bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper/bin/../conf/zoo.cfg
Mode: leader

4.Zookeeper集群连接
Zookeeper集群搭建完毕之后,可以通过客户端脚本连接到zookeeper集群上面,对客户端来说,zookeeper集群是一个整体,连接到zookeeper集群实际上感觉在独享整个集群的服务。

root@localhost ~]# /opt/zookeeper/bin/zkCli.sh -server 172.16.148.132:2181
Connecting to 172.16.148.132:2181
2019-03-09 13:36:44,721 [myid:] - INFO  [main:Environment@100] - Client environment:zookeeper.version=3.4.13-2d71af4dbe22557fda74f9a9b4309b15a7487f03, built on 06/29/2018 04:05 GMT
2019-03-09 13:36:44,723 [myid:] - INFO  [main:Environment@100] - Client environment:host.name=localhost
2019-03-09 13:36:44,723 [myid:] - INFO  [main:Environment@100] - Client environment:java.version=1.8.0_201
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.vendor=Oracle Corporation
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.home=/usr/local/jdk1.8.0_201/jre
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.class.path=/opt/zookeeper/bin/../build/classes:/opt/zookeeper/bin/../build/lib/*.jar:/opt/zookeeper/bin/../lib/slf4j-log4j12-1.7.25.jar:/opt/zookeeper/bin/../lib/slf4j-api-1.7.25.jar:/opt/zookeeper/bin/../lib/netty-3.10.6.Final.jar:/opt/zookeeper/bin/../lib/log4j-1.2.17.jar:/opt/zookeeper/bin/../lib/jline-0.9.94.jar:/opt/zookeeper/bin/../lib/audience-annotations-0.5.0.jar:/opt/zookeeper/bin/../zookeeper-3.4.13.jar:/opt/zookeeper/bin/../src/java/lib/*.jar:/opt/zookeeper/bin/../conf:.:/usr/local/jdk1.8.0_201//jre/lib/rt.jar:/usr/local/jdk1.8.0_201//lib/dt.jar:/usr/local/jdk1.8.0_201//lib/tools.jar
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.library.path=/usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.io.tmpdir=/tmp
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:java.compiler=<NA>
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:os.name=Linux
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:os.arch=amd64
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:os.version=3.10.0-957.el7.x86_64
2019-03-09 13:36:44,730 [myid:] - INFO  [main:Environment@100] - Client environment:user.name=root
2019-03-09 13:36:44,731 [myid:] - INFO  [main:Environment@100] - Client environment:user.home=/root
2019-03-09 13:36:44,731 [myid:] - INFO  [main:Environment@100] - Client environment:user.dir=/root
2019-03-09 13:36:44,731 [myid:] - INFO  [main:ZooKeeper@442] - Initiating client connection, connectString=172.16.148.132:2181 sessionTimeout=30000 watcher=org.apache.zookeeper.ZooKeeperMain$MyWatcher@277050dc
Welcome to ZooKeeper!
JLine support is enabled
[zk: 172.16.148.132:2181(CONNECTING) 0] 2019-03-09 13:36:44,931 [myid:] - INFO  [main-SendThread(172.16.148.132:2181):ClientCnxn$SendThread@1029] - Opening socket connection to server 172.16.148.132/172.16.148.132:2181. Will not attempt to authenticate using SASL (unknown error)
2019-03-09 13:36:44,942 [myid:] - INFO  [main-SendThread(172.16.148.132:2181):ClientCnxn$SendThread@879] - Socket connection established to 172.16.148.132/172.16.148.132:2181, initiating session
2019-03-09 13:36:44,965 [myid:] - INFO  [main-SendThread(172.16.148.132:2181):ClientCnxn$SendThread@1303] - Session establishment complete on server 172.16.148.132/172.16.148.132:2181, sessionid = 0x1000036cf050001, negotiated timeout = 30000

WATCHER::

WatchedEvent state:SyncConnected type:None path:null

看到这些,那么整个zookeeper集群就已经搭建并测试完成。

网站文章

  • Java中的锁——ReentrantReadWriteLock(读写锁)

    Java中的锁——ReentrantReadWriteLock(读写锁)

    上一篇里讲的ReentrankLock是一种排他锁,即同一时间只能有一个线程进入。而读写锁在同一时刻允许多个读线程访问,但是在写线程访问时,所有的读线程和其他线程均被阻塞。读写锁维护了一对锁,一个读锁和一个写锁,通过分离读写锁,使得并发性比一般的排它锁有了很大提升。因为大多数应用场景都是读多于写的,因此在这样的情况下,读写锁可以提高吞吐量。下图描述了关于读写锁的三个特性:公平性、重入性和锁降级。

    2024-02-29 12:59:04
  • 操作系统原理(1)

    操作系统原理(1)

    计算机体系结构一个计算机系统由运算器、控制器、存储器(即内存)、输入设备、输出设备组成。其中运算器运算数据,而数据在内存中,运算器要通过控制器到内存中获取数据,运算器最后将运算后的结果通过控制器保存在内存中,通常程序由指令和数据组成,当程序运行时指令和数据保存在内存中,指令中有数据在内存中的地址信息,从而运算器知道数据在内存的位置,然后通过控制器获取所需的数据;一般来说IO设备是通过...

    2024-02-29 12:58:28
  • WPF 绑定数据自动生成按钮

    开发工具与关键技术: Visual Studio 2017、C#语言、WPF、SQL Server作者:邓李庆撰写时间: 2019年9月18日下面给大家讲一个WPF中的绑定SQL Server 数据在...

    2024-02-29 12:58:20
  • 【Docker】Docker常用命令(包含Dockerfile指令)

    【Docker】Docker常用命令(包含Dockerfile指令)

    Docker常用命令(包含Dockerfile指令)

    2024-02-29 12:58:12
  • 面试遇到的一些题目

    面试遇到的一些题目

    面试

    2024-02-29 12:57:43
  • 人物志 | 技术十年:美团第一位前端工程师潘魏增

    人物志 | 技术十年:美团第一位前端工程师潘魏增

    导读 潘魏增,2006年毕业于南开大学电子系,2008年加入早期饭否团队。美团第一位前端工程师,现在是X项目组终端研发部的负责人。处女座,INTJ,喜欢Linux和Vim,崇尚开源,相信开源可以让世界...

    2024-02-29 12:57:35
  • CentOS7 或 Rhel 7 安装MariaDB

    RHEL(Red Hat Enterprise Linux) 7 开始, MariaDB 会取代 MySQL 成为预设的资料库系统, 下面先介绍一下MariaDB:MariaDB数据库管理系统是MySQL的一个分支,主要由开源社区在维护,采用GPL授权许可。开发这个分支的原因之一是:甲骨文公司收购了MySQL后,有将MySQL闭源的潜在风险,因此社区采用分支的方式来避开这个风险。[3]Ma

    2024-02-29 12:57:30
  • 信息量、信息熵、信息增益的理解

    信息量、信息熵、信息增益的理解

    1.信息量公式由来当我们知道一件必然会发生的事情发生了,因为反正这件事情会发生,因此可以认为我们没有接收到信息。但是要是–件平时觉得不可能发生的事情发生了,那么我们接收到的信息要大得多。我们对于信息内...

    2024-02-29 12:57:01
  • oracle取clob里面某个值,oracle 替換clob里面的某個特定的字符串

    關鍵字:replace,dbms_lob.instr第一步:判斷clob里面是有包含某個特定的字符串:假如是說“/admin/ewebeditor/uploadfile/“關鍵字:dbms_lob.i...

    2024-02-29 12:56:57
  • C语言约瑟夫环经典版--For初学者

    C语言约瑟夫环经典版--For初学者

    这是一个经典的问题,内容是click here。本文章要实现的是:一共n个人,从第k个人开始报数,数到m的淘汰。从他的下一个人接着数,直到剩余一个人为止。首先,生成n个人的单链表,并从第k个人开始生成。首尾相接后,如图:第一个节点数据元素存的是k,也就是说从第1个开始数到m,此时q指向m-1,p指向第m个元素。将第p个元素删除即可,然后循环遍历,知道最后一个人剩下。思路就是这样。编...

    2024-02-29 12:56:52