MHA架构搭建(模仿淘宝)

MHA架构的理念：

1、首先他们是通过ssh免密药登录，进行相互交换的

2、如果主服务器挂了那么备用的服务器会替代主服务器

3、使用一个管理员管理他们

4、主要目的是做到mysql的高可用架构，根据自己公司的需求进行选择

MHA架构的下载网址：

MHA Manage（管理节点）：

wget https://qiniu.wsfnk.com/mha4mysql-manager-0.58-0.el7.centos.noarch.rpm

MHA Node（数据节点）：

wget https://qiniu.wsfnk.com/mha4mysql-node-0.58-0.el7.centos.noarch.rpm

epel的下载地址：

wget http://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm

1.1、   简介：

   MHA（Master High Availability）目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本DeNA公司youshimaton（现就职于Facebook公司）开发，是一套优秀的作为MySQL高可用性环境下故障切换和主从提升的高可用软件。在MySQL故障切换过程中，MHA能做到在0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。

该软件由两部分组成：MHA Manager（管理节点）和MHA Node（数据节点）。MHA Manager可以单独部署在一台独立的机器上管理多个master-slave集群，也可以部署在一台slave节点上。MHA Node运行在每台MySQL服务器上，MHA Manager会定时探测集群中的master节点，当master出现故障时，它可以自动将最新数据的slave提升为新的master，然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明。

在MHA自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但这并不总是可行的。例如，如果主服务器硬件故障或无法通过ssh访问，MHA没法保存二进制日志，只进行故障转移而丢失了最新的数据。使用MySQL 5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来。如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性。

目前MHA主要支持一主多从的架构，要搭建MHA,要求一个复制集群中必须最少有三台数据库服务器，一主二从，即一台充当master，一台充当备用master，另外一台充当从库，因为至少需要三台服务器，出于机器成本的考虑，淘宝也在该基础上进行了改造，目前淘宝TMHA已经支持一主一从。MHA 适合任何存储引擎, 只要能主从复制的存储引擎它都支持，不限于支持事物的 innodb 引擎。

 官方介绍：https://code.google.com/p/mysql-master-ha/

1.2、   MHA工作原理

 （1）从宕机崩溃的master保存二进制日志事件（binlog events）;

 （2）识别含有最新更新的slave；

 （3）应用差异的中继日志（relay log）到其他的slave；

 （4）应用从master保存的二进制日志事件（binlog events）；

 （5）提升一个slave为新的master；

 （6）使其他的slave连接新的master进行复制；

1.3、   MHA软件组成

MHA软件由两部分组成，Manager工具包和Node工具包

1.3.1、 Manager工具包主要包括以下几个工具：

masterha_check_ssh              检查MHA的SSH配置状况

masterha_check_repl             检查MySQL复制状况

masterha_manger                 启动MHA

masterha_check_status           检测当前MHA运行状态

masterha_master_monitor         检测master是否宕机

masterha_master_switch          控制故障转移（自动或者手动）

masterha_conf_host              添加或删除配置的server信息

1.1.1、 Node工具包

 （这些工具通常由MHA Manager的脚本触发，无需人为操作）主要包括以下几个工具：

save_binary_logs          保存和复制master的二进制日志

apply_diff_relay_logs       识别差异的中继日志事件并将其差异的事件应用于其他的slave

filter_mysqlbinlog          去除不必要的ROLLBACK事件（MHA已不再使用这个工具）

purge_relay_logs           清除中继日志（不会阻塞SQL线程）

注意：

 为了尽可能的减少主库硬件损坏宕机造成的数据丢失，因此在配置MHA的同时建议配置成MySQL 5.5的半同步复制。关于半同步复制原理各位自己进行查

阅。（不是必须）

查看是否支持动态加载半同步复制模块：（YES为可以）

(root@localhost) [(none)]> show VARIABLES LIKE 'have_dynamic_loading';

+----------------------+-------+

| Variable_name           | Value   |

+----------------------+-------+

| have_dynamic_loading | YES   |

+----------------------+-------+

1 row in set (0.00 sec)

加载半同步复制模块：

(root@localhost) [(none)]> INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';

(root@localhost) [(none)]> INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';

判断安装是否成功

(root@localhost) [(none)]> show variables like '%semi%';

+-------------------------------------------+------------+

| Variable_name                             | Value      |

+-------------------------------------------+------------+

| rpl_semi_sync_master_enabled              | ON         |

| rpl_semi_sync_master_timeout              | 5000       |

| rpl_semi_sync_master_trace_level          | 32         |

| rpl_semi_sync_master_wait_for_slave_count | 1          |

| rpl_semi_sync_master_wait_no_slave        | ON         |

| rpl_semi_sync_master_wait_point           | AFTER_SYNC |

| rpl_semi_sync_slave_enabled               | ON         |

| rpl_semi_sync_slave_trace_level           | 32         |

+-------------------------------------------+------------+

8 rows in set (0.00 sec)

ON开启半同步 OFF关闭半同步

SET GLOBAL rpl_semi_sync_slave_enabled =ON;

1.4、   部署MHA

1.4.2、 搭建环境

 其中master对外提供写服务，备选master（实际为slave1）提供读服务，slave2也提供读服务，一旦master宕机，将会把备选master提升为新的master，slave指向新的master。

1.4.3、 配置所有主机相互SSH登录无密码验证

Master 机器的操作 192.168.1.57

[root@localhost ~]# ssh-keygen -t rsa

[root@localhost ~]# ssh-copy-id 192.168.1.57

[root@localhost ~]# ssh-copy-id 192.168.1.58

[root@localhost ~]# ssh-copy-id 192.168.1.56

Slave1 机器的操作 192.168.1.58

[root@localhost ~]# ssh-keygen -t rsa

[root@localhost ~]# ssh-copy-id 192.168.1.57

[root@localhost ~]# ssh-copy-id 192.168.1.58

[root@localhost ~]# ssh-copy-id 192.168.1.56

Slave2 机器的操作 192.168.1.56

[root@localhost ~]# ssh-keygen -t rsa

[root@localhost ~]# ssh-copy-id 192.168.1.57

[root@localhost ~]# ssh-copy-id 192.168.1.58

[root@localhost ~]# ssh-copy-id 192.168.1.56

1.4.4、 上传需要的软件包

上传我们的软件包[manager里面]

[root@localhost ~]# ls

anaconda-ks.cfg mha4mysql-manager-0.58-0.el7.centos.noarch.rpm

mha4mysql-node-0.58-0.el7.centos.noarch.rpm

其他两台机器的

[root@localhost ~]# ls

anaconda-ks.cfg        mha4mysql-node-0.58-0.el7.centos.noarch.rpm

yum安装软件依赖包

 所有的服务器都需要安装软件依赖，搭建本地yum源用来安装MHA的软件依赖，如果有网的话，可以yum install -y epel-release安装epel源，用epel扩展源安装软件依赖

都需要安装epel软件包

1.4.4.1、 配置本地yum源

三台机器都要安装这个epel软件包

[root@localhost~]# wget http://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm

[root@localhost~]# rpm -ivh epel-release-latest-7.noarch.rpm

1.4.5、 各个node节点安装软件依赖和软件包

[root@localhost~]# yum install perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager –y

没做过发送邮件试一试

[root@localhost~]# yum install mailx -y #该软件是用来发送邮件的

下载软件（安装MHA软件（在三个节点上都装mha的node软件））

[root@localhost~]#wget https://qiniu.wsfnk.com/mha4mysql-node-0.58-0.el7.centos.noarch.rpm

[root@localhost~]# rpm -ivh mha4mysql-node-0.58-0.el7.centos.noarch.rpm

1.4.6、 安装MHA Manager

MHA Manager中主要包括了几个管理员的命令行工具，例如master_manger，master_master_switch等。MHA Manger也依赖于perl模块。

1.4.6.2、 安装MHA Manger依赖的perl模块

[root@localhost ~]# yum install perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager perl-Time-HiRes perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker perl-CPAN -y

1.4.6.3、 安装MHA Manager软件包：

仅在manager节点上安装mha管理软件 192.168.1.56

[root@localhost~]# wget https://qiniu.wsfnk.com/mha4mysql-manager-0.58-0.el7.centos.noarch.rpm

[root@localhost~]# rpm -ivh mha4mysql-manager-0.58-0.el7.centos.noarch.rpm

安装完成后会在/usr/bin目录下面生成以下脚本文件：

[root@localhost ~]# ll /usr/bin/mast*

-rwxr-xr-x 1 root root 1995 5月  31 2015 /usr/bin/masterha_check_repl

-rwxr-xr-x 1 root root 1779 5月  31 2015 /usr/bin/masterha_check_ssh

-rwxr-xr-x 1 root root 1865 5月  31 2015 /usr/bin/masterha_check_status

-rwxr-xr-x 1 root root 3201 5月  31 2015 /usr/bin/masterha_conf_host

-rwxr-xr-x 1 root root 2517 5月  31 2015 /usr/bin/masterha_manager

-rwxr-xr-x 1 root root 2165 5月  31 2015 /usr/bin/masterha_master_monitor

-rwxr-xr-x 1 root root 2373 5月  31 2015 /usr/bin/masterha_master_switch

-rwxr-xr-x 1 root root 5171 5月  31 2015 /usr/bin/masterha_secondary_check

-rwxr-xr-x 1 root root 1739 5月  31 2015 /usr/bin/masterha_stop

1.5、   搭建主从复制环境

 注意：binlog-do-db 和 replicate-ignore-db 设置必须相同。 MHA 在启动时候会检测过滤规则，如果过滤规则不同，MHA 不启动监控和故障转移。

1.5.7、 在master配置主数据库服务器

1.5.7.4、 配置my.cnf:

[root@localhost ~]# vim /etc/my.cnf   #在最后添加以下行

log-bin=mysql-bin-master  #启用二进制日志

server-id=1   #本机数据库ID 标示

binlog-do-db=HA #可以被从服务器复制的库。二进制需要同步的数据库名

binlog-ignore-db=mysql  #不可以被从服务器复制的库

[root@localhost ~]# /etc/init.d/mysqld  rstart  #重启服务

1.5.7.5、 创建需要同步的数据库：

[root@cong11 ~]# mysql -uroot -p123456

mysql> create database HA;

mysql> use HA;

mysql> create table test(id int,name varchar(20));

1.5.7.6、 授权：

repl用户用来主从同步，root用户给MHA使用

mysql> grant replication slave on *.* to repl@'192.168.1.%' identified by '123456';

mysql> grant all privileges on *.* to 'root'@'192.168.1.%' identified  by '123456';

mysql> flush privileges;      #刷新权限

1.5.8、 在slave1配置从服务：

1.5.8.7、 配置my.cnf:

[root@cong12 ~]# vim /etc/my.cnf   #在最后加入以下行

log-bin=mysql-slave1  #启用二进制日志

server-id=2   #本机数据库ID 标示

binlog-do-db=HA #可以被从服务器复制的库。二进制需要同步的数据库名

binlog-ignore-db=mysql  #不可以被从服务器复制的库

log_slave_updates=1 #只有开启log_slave_updates,从库binlog才会记录主库同步的操作日志

[root@cong12 ~]# /etc/init.d/mysql restart  #重启服务器

1.5.8.8、 授权

[root@cong12 ~]# mysql -uroot -p123456

mysql> create database HA;

mysql> use HA;

mysql> create table test(id int,name varchar(20));

mysql> grant replication slave on *.* to 'repl'@'192.168.1.%' identified by '123456';

mysql> grant all privileges on *.* to 'root'@'192.168.1.%' identified  by '123456';

mysql> flush privileges;    #刷新权限

1.5.8.9、 建立主从关系

mysql> stop slave;

mysql>  change master to master_host='192.168.1.57',master_user='repl',master_password='123456';

mysql> start slave;

mysql> show slave status\G

1.5.9、 在slave2配置从服务：

1.5.9.10、 创建需要同步的数据库：

[root@cong11 ~]# mysql -uroot -p123456

mysql> create database HA;

mysql> use HA;

mysql> create table test(id int,name varchar(20));

1.5.9.11、 配置my.cnf:

[root@cong13 ~]#  vim /etc/my.cnf

log-bin=mysql-slave2  #启用二进制日志

server-id=3   #本机数据库ID 标示

binlog-do-db=HA #可以被从服务器复制的库。二进制需要同步的数据库名

binlog-ignore-db=mysql  #不可以被从服务器复制的库

log_slave_updates=1 #只有开启log_slave_updates，从库binlog才会记录主库同步的操作日志

[root@cong13 ~]# systemctl restart mysqld  #重启服务

1.5.9.12、 授权

[root@cong13 ~]# mysql -uroot -p123456

mysql> grant replication slave on *.* to 'repl'@'192.168.1.%' identified by '123456';

mysql> grant all privileges on *.* to 'root'@'192.168.1.%' identified  by '123456';

mysql> flush privileges;    #刷新权限

1.5.9.13、 建立主从关系

mysql> stop slave;

mysql>  change master to master_host='192.168.1.57',master_user='repl',master_password='123456';

mysql> start slave;

mysql> show slave status\G

1.5.10、 两台slave服务器设置read_only

 从库对外提供读服务，只所以没有写进配置文件，是因为slave随时会提升为master，开始只读模式

[root@localhost ~]# mysql -uroot -p123456 -e 'set global read_only=1'

[root@localhost ~]# mysql -uroot -p123456 -e 'set global read_only=1'

1.6、   配置MHA

1.6.11、 创建MHA的工作目录，并且创建相关配置文件

[root@localhost ~]# mkdir -p /etc/mha/scripts

[root@localhost ~]# mkdir /var/log/mha/app1 -p

[root@localhost ~]# touch /var/log/mha/app1/manager.log

1.6.11.1配置全局配置文件

vi /etc/masterha_default.cnf     #一定要是这个路径，不然后期masterha_check_ssh会提示未找到全局文件

[server default]

user=root

password=123456

ssh_user=root

repl_user=repl_user

repl_password=123456

ping_interval=1        

master_binlog_dir= /data/mysql/data/ 

secondary_check_script=masterha_secondary_check -s 192.168.1.57 -s 192.168.1.58 -s 192.168.1.56 

master_ip_failover_script="/etc/mha/scripts/master_ip_failover"

master_ip_online_change_script="/etc/mha/scripts/master_ip_online_change"

report_script="/etc/mha/scripts/send_report"

1.6.11.2配置主配置文件

vi /etc/mha/app1.cnf

[server default]

manager_workdir=/var/log/mha/app1

manager_log=/var/log/mha/app1/manager.log

[server1]

hostname=192.168.1.57

candidate_master=1

master_binlog_dir="/data/mysql/data/"

#查看方式 find / -name mysql-bin*

[server2]

hostname=192.168.1.58

candidate_master=1

master_binlog_dir="/data/mysql/data/"

[server3]

hostname=192.168.1.56

master_binlog_dir="/data/mysql/data/"

#表示没有机会成为master

no_master=1

1.6.11.3配置VIP

#为了防止脑裂发生,推荐生产环境采用脚本的方式来管理虚拟 ip,而不是使用 keepalived来完成。

vi /etc/mha/scripts/master_ip_failover

#!/usr/bin/env perl

use strict;

use warnings FATAL => 'all';

use Getopt::Long;

my (

        $command,        $ssh_user,       $orig_master_host,

        $orig_master_ip,$orig_master_port, $new_master_host, $new_master_ip,$new_master_port

);

#定义VIP变量

my $vip = '192.168.1.59/24';  # 这个是漂移地址

my $key = '1';

my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";

my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";

GetOptions(

        'command=s'              => \$command,

        'ssh_user=s'             => \$ssh_user,

        'orig_master_host=s'     => \$orig_master_host,

        'orig_master_ip=s'       => \$orig_master_ip,

        'orig_master_port=i'     => \$orig_master_port,

        'new_master_host=s'      => \$new_master_host,

        'new_master_ip=s'        => \$new_master_ip,

        'new_master_port=i'      => \$new_master_port,

);

exit &main();

sub main {

        print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

        if ( $command eq "stop" || $command eq "stopssh" ) {

                 my $exit_code = 1;

                 eval {

                         print "Disabling the VIP on old master: $orig_master_host \n";

                         &stop_vip();

                         $exit_code = 0;

                 };

                 if ($@) {

                         warn "Got Error: $@\n";

                         exit $exit_code;

                 }

                 exit $exit_code;

        }

        elsif ( $command eq "start" ) {

        my $exit_code = 10;

        eval {

                 print "Enabling the VIP - $vip on the new master - $new_master_host \n";

                 &start_vip();

                 $exit_code = 0;

        };

        if ($@) {

                 warn $@;

                 exit $exit_code;

                 }

        exit $exit_code;

        }

        elsif ( $command eq "status" ) {

                 print "Checking the Status of the script.. OK \n";

                 exit 0;

        }

        else {

                 &usage();

                 exit 1;

        }

}

sub start_vip() {

        `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;

}

sub stop_vip() {

        return 0 unless ($ssh_user);

        `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;

}

sub usage {

        print

        "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";

}

1.6.11.4第十三：配置报警邮件脚本

#mail邮件发送程序，需要先配置好发送这信息

vi /etc/mail.rc

set from=xingu@163.com            #发送人的邮箱

set smtp=smtp.163.com        # 官方的协议

set smtp-auth-user=xingu@163.com    # 接受的邮箱

#拿163邮箱来说这个不是密码，而是授权码

set smtp-auth-password=wqwqwq123    # 授权码

set smtp-auth=login   # 默认是login

#这是具体的邮件发送脚本

vi /etc/mha/scripts/send_report

#!/bin/bash

source /root/.bash_profile

# 解析变量

orig_master_host=`echo "$1" | awk -F = '{print $2}'`

new_master_host=`echo "$2" | awk -F = '{print $2}'`

new_slave_hosts=`echo "$3" | awk -F = '{print $2}'`

subject=`echo "$4" | awk -F = '{print $2}'`

body=`echo "$5" | awk -F = '{print $2}'`

#定义收件人地址

email=xingu@163.com  # 接收人的邮箱

tac /var/log/mha/app1/manager.log | sed -n 2p | grep 'successfully' > /dev/null

if [ $? -eq 0 ]

        then

        messages=`echo -e "MHA $subject 主从切换成功\n master:$orig_master_host --> $new_master_host \n $body \n 当前从库:$new_slave_hosts"` 

        echo "$messages" | mail -s "Mysql 实例宕掉，MHA $subject 切换成功" $email >>/tmp/mailx.log 2>&1 

        else

        messages=`echo -e "MHA $subject 主从切换失败\n master:$orig_master_host --> $new_master_host \n $body" `

        echo "$messages" | mail -s ""Mysql 实例宕掉，MHA $subject 切换失败"" $email >>/tmp/mailx.log 2>&1  

fi

1.6.11.5第十四：配置编写VIP脚本 #这是使用shell脚本编写的

vi /etc/mha/scripts/master_ip_online_change

#!/bin/bash

source /root/.bash_profile

vip=`echo '192.168.1.59/24'`  #设置VIP

key=`echo '1'`

command=`echo "$1" | awk -F = '{print $2}'`

orig_master_host=`echo "$2" | awk -F = '{print $2}'`

new_master_host=`echo "$7" | awk -F = '{print $2}'`

orig_master_ssh_user=`echo "${12}" | awk -F = '{print $2}'`

new_master_ssh_user=`echo "${13}" | awk -F = '{print $2}'`

#要求服务的网卡识别名一样，都为ens192(这里是)

stop_vip=`echo "ssh root@$orig_master_host /usr/sbin/ifconfig ens33:$key down"`

start_vip=`echo "ssh root@$new_master_host /usr/sbin/ifconfig ens33:$key $vip"`

if [ $command = 'stop' ]

         then

          echo -e "\n\n\n****************************\n"

           echo -e "Disabled thi VIP - $vip on old master: $orig_master_host \n"

           $stop_vip

           if [ $? -eq 0 ]

             then

                 echo "Disabled the VIP successfully"

              else

                 echo "Disabled the VIP failed"

            fi

            echo -e "***************************\n\n\n"

          fi

if [ $command = 'start' -o $command = 'status' ]

          then

            echo -e "\n\n\n*************************\n"

            echo -e "Enabling the VIP - $vip on new master: $new_master_host \n"

            $start_vip

            if [ $? -eq 0 ]

              then

                 echo "Enabled the VIP successfully"

              else

                 echo "Enabled the VIP failed"

           fi

           echo -e "***************************\n\n\n"

fi

1.6.11.6第十五：将脚本赋予可执行权限

chmod +x /etc/mha/scripts/master_ip_failover 

chmod +x /etc/mha/scripts/master_ip_online_change 

chmod +x /etc/mha/scripts/send_report

1.6.11.7第十六：通过 masterha_check_ssh 验证 ssh 信任登录是否成功

masterha_check_ssh --conf=/etc/mha/app1.cnf

Wed May 16 23:17:58 2018 -  All SSH connection tests passed successfully.                 #表示所有都成功

1.6.11.8第十七：通过 masterha_check_repl 验证 mysql 主从复制是否成功（下面输出表示测试通过）

masterha_check_repl --conf=/etc/mha/app1.cnf

IN SCRIPT TEST====/sbin/ifconfig ens192:1 down==/sbin/ifconfig ens192:1 192.168.1.59/24===

Checking the Status of the script.. OK 

Wed May 16 23:59:42 2018 -   OK.

Wed May 16 23:59:42 2018 -  shutdown_script is not defined.

Wed May 16 23:59:42 2018 -  Got exit code 0 (Not master dead).

MySQL Replication Health is OK.

启动MHA（注意：MHA监控脚本切换一次就会退出，需要再次启动）

第十八：先在master上绑定vip，(只需要在master绑定这一次，以后会自动切换)

/usr/sbin/ifconfig ens33:1 192.168.1.59/24

启动mha监控进程，下面是一条命令

nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &

1.6.11.9第二十：检查集群状态

masterha_check_status --conf=/etc/mha/app1.cnf

1.6.11.10MHA脚本不能运行，若已处于监控状态，需要停掉它

masterha_stop --conf=/etc/mha/app1.cnf

1.6.11.11MHA的日志查看日志并测试

tail -f /var/log/masterha/app1/manager.log

停掉住的mysql查看是否转移成功

/etc/init.d/mysql stop

#转移成功为对的