前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Zookeeper 集群部署

Zookeeper 集群部署

作者头像
Freedom123
发布2024-03-29 09:02:51
1270
发布2024-03-29 09:02:51
举报
文章被收录于专栏:DevOpsDevOps

ZooKeeper是一个开源的分布式应用程序协调服务,是Google的Chubby一个开源的实现。ZooKeeper为分布式应用提供一致性服务,提供的功能包括:分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)、分布式锁(Distributed Lock)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。

ZooKeeper本身可以以单机模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。

1. 服务器环境准备

我们这次环境搭建,将采用3台主机来完成。

主机

IP地址

ZK

OS

node1

192.168.137.102

Y

CentOS7

node2

192.168.137.103

Y

CentOS7

node3

192.168.137.104

Y

CentOS7

1.1 关闭网络防火墙

为了保证系统能够正常运行,我们先关闭网络防火墙,在CentOS7下这样完成:

代码语言:javascript
复制
sudo systemctl stop firewalld
sudo systemctl disable firewalld
1.2 关闭SELinux

SELinux也需要关闭,临时关闭采用这种:

代码语言:javascript
复制
sudo setenforce 0

永久关闭这样操作:

代码语言:javascript
复制
vi /etc/Selinux/config

将 SELINUX=行,修改为

代码语言:javascript
复制
 SELINUX=disabled
1.3 设置主机名

在各台电脑上,分别编辑/etc/hostname,按照上述表格的主机名进行设置。

代码语言:javascript
复制
sudo vi /etc/hostname

138.137.102主机: note1 138.137.103主机: note2 138.137.104主机: note3

1.4 设置主机名称解析

再在各台主机上,编辑/etc/hosts文件:

代码语言:javascript
复制
sudo vi /etc/hosts

内容是一样的,均为:

代码语言:javascript
复制
192.168.137.102 node1
192.168.137.103 node2
192.168.137.104 node3
1.5 创建相应的用户

为了方便,以后有关Hadoop、Zookeeper、Hive、HBase、Spark集群的安装,我们都将采用以下设置的账号和密码来进行。

代码语言:javascript
复制
useradd -m hadoop -G hadoop -s /bin/bash
password hadoop

2. 安装配置Zookeeper

Zookeeper的官方网站为: http://zookeeper.apache.org。 大家可以去官网看看是否有新版本更新。

注意以下操作,将全部使用hadoop用户来完成。执行以下指令切换到hadoop用户

代码语言:javascript
复制
su - hadoop
2.1 设置工作目录

执行以下指令,创建Zookeeper的程序和数据存放目录,并设置相应的权限。

代码语言:javascript
复制
sudo mkdir -p /opt/zookeeper
sudo mkdir -p /home/hadoop/data/zookeeper/data
sudo mkdir -p /home/hadoop/data/zookeeper/logs
sudo chown -R hadoop:hadoop /opt/zookeeper
sudo chown -R hadoop:hadoop /home/hadoop/data/zookeeper
2.2 下载

从国内镜像站点下载会快点:

代码语言:javascript
复制
wget http://mirrors.hust.edu.cn/apache/zookeeper/zookeeper-3.4.13/zookeeper-3.4.13.tar.gz
2.3 解压

执行以下指令解压后,移动到刚才创建的工作目录。

代码语言:javascript
复制
tar zxvf zookeeper-3.4.13.tar.gz
mv zookeeper-3.4.13/* /opt/zookeeper/
2.4 配置Zookeeper

执行以下指令编辑Zookeeper的配置文件:

代码语言:javascript
复制
cd /opt/zookeeper/conf
cp zoo_sample.cfg zoo.cfg
vi /opt/zookeeper/zoo.cfg

最后的内容如下:

代码语言:javascript
复制
# 服务器之间或客户端与服务器之间维持心跳的时间间隔
# tickTime以毫秒为单位。
 tickTime=2000
 # 集群中的follower服务器(F)与leader服务器(L)之间的初始连接心跳数
 initLimit=10
 # 集群中的follower服务器与leader服务器之间请求和应答之间能容忍的最多心跳数
 syncLimit=5
 # 快照保存目录
 # 不要设置为/tmp,该目录重新启动后会被自动清除
 dataDir=/home/hadoop/data/zookeeper/data
# 日志保存目录
 dataLogDir=/home/hadoop/data/zookeeper/logs
 # 客户端连接端口
 clientPort=2181
 # 客户端最大连接数。
 # 根据自己实际情况设置,默认为60个
 # maxClientCnxns=60
 # 三个接点配置,格式为:
#     server.服务编号=服务地址、LF通信端口、选举端口
 server.1=node1:2888:3888
 server.2=node2:2888:3888
 server.3=node3:2888:3888

将该文件分发到各个节点:

代码语言:javascript
复制
scp -R /opt/zookeeper/* node1:/opt/zookeeper/
scp -R /opt/zookeeper/* node2:/opt/zookeeper/
scp -R /opt/zookeeper/* node3:/opt/zookeeper/
2.5 写入节点标记

在三个node节点上,分别在/home/hadoop/data/zookeeper/data/myid写入节点标记:

代码语言:javascript
复制
echo 1 > /home/hadoop/data/zookeeper/data

node1节点上写:1

node2节点上写:2

node3节点上写:3

3. 启动Zookeeper

在node1、node2、node3上,分别启动zkServer。

代码语言:javascript
复制
zkServer.sh start

4. 可用性测试

4.1 节点状态查看

在node1、node2、node3上,分别执行以下指令看Zookeeper是否启动成功。

代码语言:javascript
复制
zkServer.sh status

可以看到,3个节点,一个leader,其他的都是follower。

Zookeeper节点状态

4.2 客户端连接测试

在客户端电脑上,执行以下指令测试连接:

代码语言:javascript
复制
# 连接服务器
[hadoop@master ~]$ zkCli.sh -server slave1:2181

# 查看目录
[zk: slave1(CONNECTED) 0] ls /
4.3 验证 HA的故障自动转移是否好用

使用jps命令查看Zookeeper进程

使用kill -9 pid命令杀死leader进程,然后再查看每个节点的Zookeeper状态,如果有一个为leader则验证为好用

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2024-03-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1. 服务器环境准备
    • 1.1 关闭网络防火墙
      • 1.2 关闭SELinux
        • 1.3 设置主机名
          • 1.5 创建相应的用户
          • 2. 安装配置Zookeeper
            • 2.1 设置工作目录
              • 2.2 下载
                • 2.3 解压
                  • 2.4 配置Zookeeper
                    • 2.5 写入节点标记
                    • 3. 启动Zookeeper
                    • 4. 可用性测试
                      • 4.1 节点状态查看
                        • 4.2 客户端连接测试
                          • 4.3 验证 HA的故障自动转移是否好用
                          相关产品与服务
                          领券
                          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档