Zookeeper完全分布式集群的搭建

一、集群模式

1、单机模式

在zoo.cfg中只配置一个server.id就是单机模式了。

这种模式下,如果当前主机宕机,那么所有依赖于当前zookeeper服务工作的其他服务器都不能在进行正常工作,这种事件称为单节点故障。所以这种模式一般用在测试环境。

2、伪分布式

在zoo.cfg中配置多个server.id,其中ip都是当前机器,而端口各不相同,启动时就是伪集群模式了。

这种模式和单机模式产生的问题是一样的。这种模式也是用在测试环境中。

3、完全分布式

多台机器各自配置zoo.cfg文件,将各自互相加入服务器列表,上面搭建的集群就是这种完全分布式。

这种模式是真实生产环境中使用的zookeeper集群模式。

二、zookeeper完全分布式集群的搭建

搭建zookeeper集群需要最少三台机器,需要安装jdk作为基础支持。此次使用的Zookeeper3.4.7版本。

1、准备虚拟机

准备三台虚拟机,将ip和端口规划好。这里最好将主机名,以及主机名和ip的映射关系配置到/etc/hosts内
vim /etc/hosts # 填入以下内容,如果之前已经添加过,则忽略此操作
127.0.0.1   localhost
::1         localhost
192.168.234.21 spark01
192.168.234.22 spark02
192.168.234.23 spark03

2、安装jdk

如果已经安装,则忽略

1、将jdk安装包上传、解压安装包,并更名,命令如下:

tar -zxvf jdk1.8.0_131.tar.gz -C /data/aicu-tob/software/

2、修改/etc/profile, 在文件行尾加入以下内容后保存退出。

export JAVA_HOME=/data/aicu-tob/software/jdk1.8.0_131
export PATH=$PATH:$JAVA_HOME/bin

3、搭建集群

3.1.下载安装包

下载zookeeper的安装包,下载地址:http://zookeeper.apache.org/

上传到linux集群环境下,规划自己的管理目录,解压安装包。

mkdir -p /data/aicu-tob/software
tar -zxvf zookeeper-3.4.10.tar.gz -C /data/aicu-tob/software

3.2.集群配置

3.2.1 修改配置文件zoo.cfg

# 进入conf目录,复制zoo-sample.cfg重命名为zoo.cfg,通过修改zoo.cfg来对zookeeper进行配置。这个名字固定写死,因为zookeeper启动会检查这个文件,根据这个配置文件里的信息来启动服务。
cd /data/aicu-tob/software/zookeeper-3.4.10/conf
cp zoo-sample.cfg zoo.cfg

# vim zoo.cfg,此文件中需要修改以下两处:
1、dataDir:指定zookeeper将数据保存在哪个目录下,如果不修改,默认在/tmp下,这个目录下的数据有可能会在磁盘空间不足或服务器重启时自动被linux清理,所以一定要修改这个地址。按个人习惯将其修改为自己的管理目录。
dataDir=/data/aicu-tob/software/zookeeper-3.4.10/data
dataLogDir=/data/aicu-tob/software/zookeeper-3.4.10/logs

2、完全分布式:多台机器各自配置,zookeeper有几个节点,就配置几个server。例如本文宗总共三台主机,于是在配置文件末尾加上下面三行,可以填写ip也可以是/etc/hosts的主机名,建议后者,可以充分解耦
server.1=spart01:2888:3888
server.2=spart02:2888:3888
server.3=spart03:2888:3888
# 注意:一定要跟自己的myid配置对应上,否则集群一直处于非正常状态 myid文件中就是N,则对应zoo.cfg 中server.{N} ,关于myid配置,见下一小节
zookeeper服务默认的端口号为2888和3888,2888原子广播端口,3888选举端口,

3.2.2 myid

到dataDir指定目录下生成一个文件叫myid(必须叫这个名字),其中写上一个数字表明当前机器是哪一个编号的机器,注意:本机的myid内容一定要与server.{N}保持一致

# 在spart01主机
vim myid
1

3.2.3.拷贝

#将以上Zookeeper文件夹远程拷贝到另外两台服务器中:
scp -r  /data/aicu-tob/software/zookeeper-3.4.10 root@spart02
scp -r  /data/aicu-tob/software/zookeeper-3.4.10 root@spart03

#然后修改另外两台服务器中的myid文件中的id即可。
#spart02
vim myid
2

#spart03
vim myid
3

4、启动zookeeper

启动zookeeper的各种命令操作如下,可以使用绝对路径操作这些命令,也可使用相对路径操作这些命令,相对路径需要进到zookeeper服务的bin目录进行操作

#启动ZK服务,Zookeeper集群需要每台挨个启动。 
bin/zkServer.sh start
#停止ZK服务: 
bin/zkServer.sh stop
#重启ZK服务: 
bin/zkServer.sh restart
#查看ZK服务状态: 
bin/zkServer.sh status  # 依次查看三台主机,会发现某一台被选举为leader,其余两台为follower

也可以是用jps命令查看线程

启动集群的时候,集群数量启动没有超过一半,状态会有错误提示,当集群启动数量超过一半就会自动转为正常状态,并且此台使集群进入正常工作状态的服务器会成为leader角色,集群中其他服务器的角色为fllower。 Zookeeper集群模式搭建到此完成。

5、测试zookeeper

5.1 在Zookeeper上测试数据同步

在spart01上操作:

# 1、切换目录
cd /data/aicu-tob/software/zookeeper-3.4.10

# 2、客户登陆,
./bin/zkCli.sh 

注意zoo.cfg如果修改了clientPort,例如clientPort=8131,那么此处需要指定参数
./bin/zkCli.sh -server localhost:8131  # 本实验是登陆本机操作,当然localhost也可以是其他zk主机

WatchedEvent state:SyncConnected type:None path:null
[zk: localhost:2181(CONNECTED) 0] ls /
[zookeeper]
[zk: localhost:2181(CONNECTED) 1] get /zookeeper
cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x0
cversion = -1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 1
[zk: localhost:2181(CONNECTED) 3] create /hadoop123 123  //创建一个hadoop123文件并且值为:123
Created /hadoop123
[zk: localhost:2181(CONNECTED) 4] ls /    #查看是否创建好了
[hadoop123, zookeeper]
[zk: localhost:2181(CONNECTED) 5] get /hadoop123   #获取文件的值
123
cZxid = 0x200000002
ctime = Fri Mar 25 09:54:20 CST 2016
mZxid = 0x200000002
mtime = Fri Mar 25 09:54:20 CST 2016
pZxid = 0x200000002
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 3
numChildren = 0
[zk: localhost:2181(CONNECTED) 6]

在spart02和spart03上查看在sparrk01上创建文件是否同步过来:

./bin/zkCli.sh -server localhost:8131  

[zk: localhost:2181(CONNECTED) 0] ls /     #显示hadoop123同步过来了
[hadoop123, zookeeper]
[zk: localhost:2181(CONNECTED) 1] get /hadoop123  #获取hadoop123文件内容
123
cZxid = 0x200000002
ctime = Fri Mar 25 09:54:20 CST 2016
mZxid = 0x200000002
mtime = Fri Mar 25 09:54:20 CST 2016
pZxid = 0x200000002
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 3
numChildren = 0
[zk: localhost:2181(CONNECTED) 2] 

5.2 测试Zookeeper故障角色转移

所先查看spark01、spark02、spark03上角色状态

然后把leader干掉,然后会发现选举出一个新的leader,如果重启挂掉的zk,它会变成follower

上一篇
下一篇
Copyright © 2022 Egon的技术星球 egonlin.com 版权所有 帮助IT小伙伴学到真正的技术