Nginx+Keepalived实现高可用Web负载均衡

一、需求场景:

通过之前的一篇文章Nginx+Tomcat实现负载均衡我们已经能通过Nginx来实现Tomcat应用的负载均衡,但是单个的Nginx会存在单点隐患,如果Nginx挂掉,那么全部的Tomcat应用都将变得不可用,所以实现Nginx的高可用是必不可少的一步。

二、Keepalived 简要介绍

Keepalived 是一种高性能的服务器高可用或双机热备解决方案,Keepalived可以用来防止服务器单点故障的发生,通过配合Nginx可以实现web前端服务的高可用。

Keepalived 以 VRRP 协议为实现基础,用VRRP协议来实现高可用性(HA)。VRRP(VirtualRouterRedundancyProtocol)协议是用于实现路由器冗余的协议,VRRP 协议将两台或多台路由器设备虚拟成一个 设备,对外提供虚拟路由器 IP(一个或多个),而在路由器组内部,如果实际拥有这个对外 IP 的路由器如果工作正常的话就是 MASTER, 或者是通过算法选举产生,MASTER 实现针对虚拟路由器 IP 的各种网络功能,,如 ARP 请求,ICMP,以及数据的转发等;其他设备不拥有该虚拟 IP,状态是 BACKUP, 除了接收 MASTER 的 VRRP 状态通告信息外,不执行对外的网络功能。

当主机失效时,BACKUP 将接管原先 MASTER 的网络功能。 VRRP 协议使用多播数据来传输 VRRP 数据,VRRP 数据使用特殊的虚拟源 MAC 地址发送数据而不是自身 网卡的 MAC 地址,VRRP 运行时只有 MASTER 路由器定时发送 VRRP 通告信息, 表示 MASTER 工作正常以及虚 拟路由器 IP(组),BACKUP 只接收 VRRP 数据,不发送数据,如果一定时间内没有接收到 MASTER 的通告信 息,各 BACKUP 将宣告自己成为 MASTER, 发送通告信息,重新进行 MASTER 选举状态。

Keepalived的作用是检测服务器的状态,如果有一台服务器死机,或工作出现故障,Keepalived将检测到,并将有故障的服务器从系统中剔除,当服务器工作正常后Keepalived自动将服务器加入到服务器群中,这些工作全部自动完成,不需要人工干涉,需要人工做的只是修复故障的服务器。 部署两台Nginx机器来做切换,在每一台Nginx机器上安装keepalived,一个为MASTER,一个为BACKUP,再利用keepalived产生一个虚拟IP,这个虚拟IP负责对外提供访问。

三、环境以及方案规划

虚拟IP

真实IP

Nginx端口

默认主从

192.168.31.111

192.168.31.146

80

MASTER

192.168.31.111

192.168.31.154

80

BACKUP

四、Nginx的安装

(在192.168.31.146和192.168.31.154中分别安装Nginx,安装用户:root)

1、安装编译Nginx所需要的依赖包
# yum install gcc gcc-c++ make automake autoconf libtool pcre pcre-devel zlib zlib-devel openssl openssl-devel
2、上传Nginx(nginx-1.6.2.tar)到/usr/local/src目录
3、编译安装Nginx

进入Nginx的上传目录:

# cd /usr/local/src/

解压安装包:

# tar -zxvf nginx-1.6.2.tar.gz

进入解压后的文件夹:

# cd nginx-1.6.2

指定编译位置:

# ./configure --prefix=/usr/local/nginx

编译:

# make && make install
4、配置Nginx

通过修改/conf/nginx.conf文件来修改Nginx的配置信息

# vi /usr/local/nginx/conf/nginx.conf
5、系统防火墙中打开对应的端口80(默认80)
# vi /etc/sysconfig/iptables

添加:

## nginx
-A INPUT -m state --state NEW -m tcp -p tcp --dport 80 -j ACCEPT

添加后重启防火墙:

# service iptables restart
6、检测Nginx的配置文件是否正确

建议每次修改/conf/nginx.conf文件之后,都手动执行该命令以检测此次修改的正确性

# /usr/local/nginx/sbin/nginx -t

出现以下信息,代表成功

nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful
7、启动Nginx
# /usr/local/nginx/sbin/nginx

通过http://ip可以访问nginx的默认页面

查看Nginx进程

# ps -ef|grep nginx

停止Nginx

# /usr/local/nginx/sbin/nginx -s stop

重启Nginx

# /usr/local/nginx/sbin/nginx -s reload
8、设置Nginx开机启动

编辑/etc下的rc.local文件

# vi /etc/rc.local

添加:

/usr/local/nginx/sbin/nginx

五、Keepalived的安装

1、上传或下载 keepalived(keepalived-1.2.18.tar.gz)到 /usr/local/src 目录
2、解压安装

进入安装包目录:

# cd /usr/local/src/

解压:

# tar -zxvf keepalived-1.2.18.tar.gz

进入解压后的目录:

# cd keepalived-1.2.18

指定编译路径:

# ./configure --prefix=/usr/local/keepalived

编译安装:

# make && make install
3、将keepalived安装成Linux系统服务

因为没有使用keepalived的默认路径安装(默认是/usr/local),安装完成后,需要手动复制默认的配置文件到默认路径

# mkdir /etc/keepalived
# cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/

复制keepalived服务脚本到默认的地址

# cp /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/
# cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
# ln -s /usr/local/sbin/keepalived /usr/sbin/ 
# ln -s /usr/local/keepalived/sbin/keepalived /sbin/

设置keepalived服务开机启动

1

# chkconfig keepalived on

4、修改keepalived配置文件

1

# vi /etc/keepalived/keepalived.conf

配置说明:

! Configuration File for keepalived
global_defs {
## keepalived 自带的邮件提醒需要开启 sendmail 服务。建议用独立的监控或第三方 SMTP
router_id edu-proxy-01 ## 标识本节点的字条串,通常为 hostname }
## keepalived 会定时执行脚本并对脚本执行的结果进行分析,动态调整 vrrp_instance 的优先级。如果 脚本执行结果为 0,并且 weight 配置的值大于 0,则优先级相应的增加。如果脚本执行结果非 0,并且 weight 配置的值小于 0,则优先级相应的减少。其他情况,维持原本配置的优先级,即配置文件中 priority 对应 的值。
   vrrp_script chk_nginx {
script "/etc/keepalived/nginx_check.sh" interval 2 ## 检测时间间隔
weight -20 ## 如果条件成立,权重-20
}
## 检测 nginx 状态的脚本路径
## 定义虚拟路由,VI_1 为虚拟路由的标示符,自己定义名称
vrrp_instance VI_1 {
state MASTER ## 主节点为 MASTER,对应的备份节点为 BACKUP
interface eth1 ## 绑定虚拟 IP 的网络接口,与本机 IP 地址所在的网络接口相同,我的是 eth1 virtual_router_id 51 ## 虚拟路由的 ID 号,两个节点设置必须一样,可选 IP 最后一段使用, 相同的 VRID 为一个组,他将决定多播的 MAC 地址,eth1值的获取可以在机器上执行ifconfig命令得到
mcast_src_ip 192.168.1.51 ## 本机 IP 地址
priority 100 ## 节点优先级,值范围 0-254,MASTER 要比 BACKUP 高 nopreempt ## 优先级高的设置 nopreempt 解决异常恢复后再次抢占的问题 advert_int 1 ## 组播信息发送间隔,两个节点设置必须一样,默认 1s ## 设置验证信息,两个节点必须一致
authentication {
        auth_type PASS
auth_pass 1111 ## 真实生产,按需求对应该过来 }
## 将 track_script 块加入 instance 配置块
track_script {
chk_nginx ## 执行 Nginx 监控的服务
}
## 虚拟 IP 池, 两个节点设置必须一样
virtual_ipaddress {
192.168.1.50 ## 虚拟 ip,可以定义多个
} }

附录: 192.168.31.146(MASTER节点)的keepalived.conf

! Configuration File for keepalived
global_defs {
   router_id dreyer-zk-03
}
vrrp_script chk_nginx {
    script "/etc/keepalived/nginx_check.sh"
    interval 2
    weight -20
}
vrrp_instance VI_1 {
    state MASTER
    interface eth0
    virtual_router_id 146
    mcast_src_ip 192.168.31.146
    priority 100
    nopreempt
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
        chk_nginx
    }
    virtual_ipaddress {
        192.168.31.111
    }
}

192.168.31.154(BACKUP节点)的keepalived.conf

! Configuration File for keepalived
global_defs {
   router_id dreyer-zk-01
}
vrrp_script chk_nginx {
    script "/etc/keepalived/nginx_check.sh"
    interval 2
    weight -20
}
vrrp_instance VI_1 {
    state BACKUP
    interface eth0
    virtual_router_id 146
    mcast_src_ip 192.168.31.154
    priority 90
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
        chk_nginx
    }
    virtual_ipaddress {
        192.168.31.111
    }
}

nginx_check.sh(Nginx状态检测脚本)

#!/bin/bash
A=`ps -C nginx –no-header |wc -l`
if [ $A -eq 0 ];then
    /usr/local/nginx/sbin/nginx
    sleep 2
    if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
        killall keepalived
    fi
fi

脚本大意为:检查是否有nginx进程,如果没有,那么就启动nginx,启动后睡眠2秒,再检查是否有nginx的进程,如果没有的话,那么就杀掉keepalived的全部进程(杀掉进程后keepalived才能进行重新选举)

6、启动keepalived

1

# service keepalived start

出现以下,代表启动成功

1

Starting keepalived: [ OK ]

7、进行高可用测试
7.1、关于虚拟IP

在192.168.31.146中执行ip add命令查看

[root@MiWiFi-R1CM sbin]# ip add
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue state UNKNOWN 
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
    inet6 ::1/128 scope host 
       valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:34:1c:e2 brd ff:ff:ff:ff:ff:ff
    inet 192.168.31.146/24 brd 192.168.31.255 scope global eth0
    inet 192.168.31.111/32 scope global eth0
    inet6 fe80::20c:29ff:fe34:1ce2/64 scope link 
       valid_lft forever preferred_lft forever

在192.168.31.154中执行ip add命名查看

[root@MiWiFi-R1CM conf]# ip add
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue state UNKNOWN 
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
    inet6 ::1/128 scope host 
       valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:0c:29:64:3d:2a brd ff:ff:ff:ff:ff:ff
    inet 192.168.31.154/24 brd 192.168.31.255 scope global eth0
    inet 192.168.31.111/32 scope global eth0
    inet6 fe80::20c:29ff:fe64:3d2a/64 scope link 
       valid_lft forever preferred_lft forever

从输出信息中,我们可以知道146和154机器上都有192.168.31.111这个虚拟IP,这个IP是由keepalived虚拟出来的(keepalived.conf中有配置),关掉一台机器的keepalived再执行ip add命令,那么192.168.31.111这个虚拟IP将不存在。我们可以通过192.168.31.111这个虚拟IP来访问146和154这两台机器,其中哪台机器是master,虚拟IP就会映射到哪个地址。

7.2、我们修改两个nginx的首页信息,在首页中加入各自的IP地址

1

# vi /usr/local/nginx/html/index.html

7.3、高可用切换

我们可以看到由于146被我们设置为master,所以192.168.31.111这个虚拟IP会漂移到146这台机器上,那我们把146的keepalived关掉再看。 停止keepalived:

1

# service keepalived stop

这个时候192.168.31.111这个虚拟IP已经漂移到154这个机器上了。

结论:通过keepalived来实现同一个虚拟IP映射到两台Nginx代理服务器,MASTER节点失效时,BACKUP接管原先MASTER的网络功能,这种方式来实现nginx的高可用性(如上文中的keepalived简要介绍)

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏张首富-小白的成长历程

CentOS系统优化脚本,未完结

sed -i "s/SELINUX=enforcing/SELINUX=disabled/g" /etc/selinux/config

2112
来自专栏我叫刘半仙

SpringBoot+JWT+Shiro+MybatisPlus实现Restful快速开发后端脚手架

前后端分离已经成为互联网项目开发标准,它会为以后的大型分布式架构打下基础。SpringBoot使编码配置部署都变得简单,越来越多的互联网公司已经选择Spring...

1.2K13
来自专栏杨建荣的学习笔记

服务器进程异常的原因分析(第二篇)(r8笔记第16天)

最近看到一个报警,是显示某一个oracle的备库进程数达到了2000多个。 ZABBIX-监控系统: ----------------------------...

3177
来自专栏xingoo, 一个梦想做发明家的程序员

程序猿的日常——SpringMVC系统架构与流程回顾

web开发经历了很漫长的时间,在国内也快有十几年的时间了。从最开始的进程级到现在的MVC经历了很多的改进和优化,本篇就主要复习了解下Spring MVC相关的...

2117
来自专栏JAVA高级架构

程序猿的日常——SpringMVC系统架构与流程回顾

web开发经历了很漫长的时间,在国内也快有十几年的时间了。从最开始的进程级到现在的MVC经历了很多的改进和优化,本篇就主要复习了解下Spring MVC相关的知...

3535
来自专栏后台及大数据开发

Linux巩固记录(9) keepalived+nginx搭建高可用负载分发环境

web 192.168.2.100 再iis上启动了9011/9012/9013三个端口的web应用

1031
来自专栏容器云生态

keepalived+haproxy构建高可用负载均衡集群

Keepalived+haproxy构建web高可用负载均衡系统 本章将使用keepalived做为高可用集群调度用户请求,并且检测haproxy负载均衡器...

5427
来自专栏运维一切

ceph基础运维操作 原

保存退出 开始安装ceph Yum install ceph –y 完毕之后初始化目录

1462
来自专栏北京马哥教育

Nginx区分PC或手机访问不同网站

近几年来,随着手机和pad的普及,越来越多的用户选择使用移动客户端访问网站,而为了获取更好的用户体验,就需要针对不同的设备显示出最合适的匹配,...

1.4K9
来自专栏linux运维学习

linux学习第五十六篇:集群介绍,keepalived介绍,用keepalived配置高可用集群

集群介绍 根据功能划分为两大类:高可用和负载均衡。高可用集群通常为两台服务器,一台工作,另外一台作为冗余,当提供服务的机器宕机,冗余将接替继续提供服务。实现高...

2938

扫码关注云+社区

领取腾讯云代金券