一、MHA概述

1、MHA简介

MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,MHA是由日本人开发,是一套优秀的MySQL故障切换和主从复制的高可用软件

在MySQL故障切换的过程中,MHA能做到0~30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中,MHA能够最大程度上保证数据库的一致性,以达到真正意义上的高可用

MHA由perl语言编写,该工具仅仅使用于MySQLReplication环境,目的在于维持Master主库的高可用性

MHA是基于标准的MySQL主从复制(异步/半同步)

MHA由两部分组成管理节点(MHA manager)和数据节点(MHA Node)两部分组成

MHA manager 可以单独部署在一台服务器上,可以部署在一台slave上面

了解:主从复制架构:主从复制(一主多从);MHA架构(多主多从);MMM架构(3主多从)

 

MHA Node(数据节点)

MHA Node 运行在每台 MySQL 服务器上。

MHA Manager(管理节点)

MHA Manager 可以单独部署在一台独立的机器上,管理多个 master-slave 集群;也可以部署在一台 slave 节点上

MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时,它可以自动将最新数据的 slave 提升为新的 master, 然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明。

2、MHA特点及原理介绍

Mysql 高可用 MHA_mysql

自动故障切换过程中,MHA总会试图从宕机的主服务器上保存二进制日志,最大程度的保证数据不丢失,但这并不总是可行,例如如果主服务器硬件故障或者无法通过ssh访问,MHA则无法保存二进制日志,只能进行故障转移而丢失了最新的数据

使用MySQL5.5的半同步复制,可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来,如果只有一个slave已经收到了最新的二进制日志,MHA可以将最新的二进制日志应用于其他所有的slave服务器上,因此可以保证所有节点的数据一致性,有时候可故意设置从节点慢于主节点,当发生意外删除数据库到数据丢失时可从从节点二进制日志中恢复。

  目前MHA支持一主多从架构,最少三台服务,即一主两从。

 

3,如何理解半同步呢,

首先我们来看看异步,全同步的概念: 异步复制(Asynchronous replication) MySQL默认的复制即是异步的,主库在执行完客户端提交的事务后会立即将结果返给给客户端,并不关心从库是否已经 接收并处理,这样就会有一个问题,主如果crash掉了,此时主上已经提交的事务可能并没有传到从上,如果此 时,强行将从提升为主,可能导致新主上的数据不完整。 全同步复制(Fully synchronous replication) 指当主 库执行完一个事务,所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返 回,所以全同步复制的性能必然会收到严重的影响。 半同步复制(Semisynchronous replication) 介于异步复 制和全同步复制之间,主库在执行完客户端提交的事务后不是立刻返回给客户端,而是等待至少一个从库接收 到并写到relay log中才返回给客户端。相对于异步复制,半同步复制提高了数据的安全性,同时它也造成了一 定程度的延迟,这个延迟最少是一个TCP/IP往返的时间。所以,半同步复制最好在低延时的网络中使用。

 

总结:异步与半同步异同 默认情况下MySQL的复制是异步的,Master上所有的更新操作写入Binlog之后 并不确保所有的更新都被复制到Slave之上。异步操作虽然效率高,但是在Master/Slave出现问题的时候,存在很高数据不同步的风险,甚至可能丢失数据。 MySQL5.5引入半同步复制功能的目的是为了保 证在master出问题的时候,至少有一台Slave的数据是完整的。在超时的情况下也可以临时转入异步复 制,保障业务的正常使用,直到一台salve追赶上之后,继续切换到半同步模式。

 

工作原理 相较于其它HA软件,MHA的目的在于维持MySQL Replication中Master库的高可用性,其最大特点是 可以修复多个Slave之间的差异日志,最终使所有Slave保持数据一致,然后从中选择一个充当新的Master,并 将其它Slave指向它。 -从宕机崩溃的master保存二进制日志事件(binlogevents)。 -识别含有最新更新的slave。 -应用差异的中继日志(relay log)到其它slave。 -应用从master保存的二进制日志事件(binlogevents)。 -提升一 个slave为新master。 -使其它的slave连接新的master进行复制。

 

​ 这里我们提到了两个个关键点:“高可用”,“故障切换“。我们逐一简单介绍一下这两者的含义。

 

何为高可用?

​ 高可用就是可用性强,在一定条件下(某个服务器出错或宕机)可以保证服务器可以正常运行,在一定程度上不会影响业务的运行。

 

故障切换

​ 当主服务器出现错误时,被manager服务器监控到主库mysqld服务停止后,首先对主库进行SSH登录检查(save_binary_logs -command=test),然后对mysqld服务进行健康检查(PING(SELECT)每个3秒检查一次,持续3次),最后作出Master is down!的判断,master failover开始进行对应的处理,具体的过程可以参考网上的博客,这里给出一个链接:https://www.cnblogs.com/xiaoboluo768/p/5210820.html 大家可以参考这位朋友的文章

 

MHA软件组成:

Manager工具包和Node工具包,具体说明如下:

 

MHA Manager:

1. masterha_check_ssh:检查MHA的SSH配置状况

2. masterha_check_repl:检查MySQL的复制状况

3. masterha_manager:启动MHA

4. masterha_check_status:检测当前MHA运行状态

5. masterha_master_monitor:检测master是否宕机

6. masterha_master_switch:控制故障转移(自动或手动)

7. masterha_conf_host:添加或删除配置的server信息

8. masterha_stop:关闭MHA

 

MHA Node:

save_binary_logs:保存或复制master的二进制日志

apply_diff_relay_logs:识别差异的relay log并将差异的event应用到其它slave中

filter_mysqlbinlog:去除不必要的ROLLBACK事件(MHA已不再使用这个工具)

purge_relay_logs:消除中继日志(不会堵塞SQL线程)

 

另有如下几个脚本需自定义:

1. master_ip_failover:管理VIP

2. master_ip_online_change:

3. masterha_secondary_check:当MHA manager检测到master不可用时,通过masterha_secondary_check脚本来进一步确认,减低误切的风险。

4. send_report:当发生故障切换时,可通过send_report脚本发送告警信息。

 

二、搭建MySQL+MHA

环境准备

Centos7 操作系统  三台安装mysql5.7的服务器    一台MHAmanager服务器   

安装包:mha4mysql-manager-0.57.tar.gz、mha4mysql-node-0.57.tar.gz

 

主机      IP地址          安装包 / 软件 / 工具

MHAmanager    192.168.184.10     MHAnode组件、MHAmanager组件

mysql1(主)      192.168.184.40     MHAnode组件

Slave1(从,主备) 192.168.184.60     MHAnode组件

Slave2(从)       192.168.184.70     MHAnode组件

   

 

1、配置主从复制

修改master的主配置文件
#开启二进制日志log_bin,允许从服务器同步log-slave-updates
Vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true

Mysql 高可用 MHA_mysql_02

配置从服务器


#在/etc/my.cnf 中修改或者增加下面内容
#开启中继日志,创建索引,同步主服务器
#slave 1
vim /etc/my.cnf
server-id = 2
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-realy-bin.index

Mysql 高可用 MHA_mysql_03

#slave 2
vim /etc/my.cnf
server-id = 3
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-realy-bin.index

Mysql 高可用 MHA_mysql_04

master、slave1、slave2分别做两个软链接 第一个是mysql命令

#第二个mysqlbinlog是节点恢复

ln -s /usr/local/mysql/bin/mysql /usr/sbin

ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin

 

在后台启动mysql服务

(mysql_safe 安全启动,相当于多了一个守护进程,mysqld挂了会自动把mysqld进程拉起来)

/usr/local/mysql/bin/mysqld_safe --user=mysql &

 

配置MySQL 一主两从

[root@master ~]# mysql -uroot -p123456

登录数据库,(因为我的三台mysql使用的同样的用户密码,所以同步三台机器一起操作)

#在所有数据库节点上授权两个用户,一个是从库同步使用,另一个是manager使用

grant replication slave on *.* to 'myslave'@'192.168.126.%' identified by '123456';

grant all privileges on *.* to 'mha'@'192.168.126.%' identified by 'manager';

#下面三条授权理论上不用添加,但是实验环境通过MHA检查MySQL主从报错,

报两个从库通过主机名连接不上主库,所以所有数据库都需要添加以下授权

通过mha检查的时候,是通过主机名的形式进行监控,这种情况会容易报错

grant all privileges on *.* to 'mha'@'master' identified by 'manager';

grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';

grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

Mysql 高可用 MHA_perl_05

所有从库(slave1和slave2)开启只读功能(不会对超级管理员super生效,普通用户)

set global read_only=1;

Mysql 高可用 MHA_mysql_06

刷新权限

flush privileges;

在master上查看二进制文件和同步点

show master status;

Mysql 高可用 MHA_mysql_07

可创建表格验证是否成功,此处省略。。。。。

2、安装 MHA 软件

所有服务器上都安装 MHA 依赖的环境,首先安装 epel 源,需要在线源安装

再在所有服务器上安装 node 组件(四台机器同步操作)​

yum install epel-release --nogpgcheck -y
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN
#perl针对于mysql数据库
#从配置文件中提拿其中的值
#log-日志
#多线程管理
#扩展工具CBuilder MakeMaker
#cpan perl中的数据库

Mysql 高可用 MHA_mysql_08

Mysql 高可用 MHA_mysql_09

#同步阿里云时间服务器

ntpdate ntp.aliyun.com

Mysql 高可用 MHA_perl_10

将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install

Mysql 高可用 MHA_mysql_11

Mysql 高可用 MHA_perl_12

3、在 MHA manager 节点上安装 manager 组件

 将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install

Mysql 高可用 MHA_perl_13

Mysql 高可用 MHA_mysql_14

Mysql 高可用 MHA_服务器_15

Mysql 高可用 MHA_perl_16

3、配置无密码认证

在mannager,master,slave1,slave2上配置到所有数据库节点的无密码认证(四台机器同步处理)

ssh-keygen -t rsa

ssh-copy-id 192.168.126.10

ssh-copy-id 192.168.126.40

ssh-copy-id 192.168.126.60

ssh-copy-id 192.168.126.70

Mysql 高可用 MHA_服务器_17

Mysql 高可用 MHA_服务器_18

其他的一样,这里不再重复,记住每个服务器都要操作

 

4、配置MHA

①在MHA节点上复制相关脚本到/usr/local/bin目录

cp -ra /opt/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin

#-a:此选项通常在复制目录时使用,它保留链接、文件属性,并复制目录下的所有内容

#-r: 递归

#拷贝后会有四个执行文件

ll /usr/local/bin/scripts/

master_ip_failover #自动切换时 VIP管理的脚本⭐⭐⭐

master_ip_online_change #在线切换时 VIP的管理

power_manager #故障发生后关闭主机的脚本

send_report #因故障切换后发送报警的脚本

Mysql 高可用 MHA_perl_19

②复制上述的master_ip_failover  到/usr/local/bin目录 这里使用脚本管理VIP
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
cp /usr/local/bin/scripts/master_ip_online_change /usr/local/bin
#修改master_ip_failover内容(删除原有内容,直接复制)
cd /usr/local/bin
vim master_ip_failover

#!/usr/bin/env perl
use stric;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.126.100'; #浮动IP
my $brdc = '192.168.126.255'; #广播地址
my $ifdev = 'ens33'; #使用的网卡为ens33
my $key = '1'; #国际序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
#使用ifoconfig命令将其启动,同时设置浮动地址
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
#可以使用ifconfig命令将其down掉(关闭)
my $exit_code = 0; #正常退出(返回状态码)
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

#去除#开头的部分,PS:第一行添加#
进入末行模式 输入% s/^#//

Mysql 高可用 MHA_mysql_20

③创建MHA软件目录并拷贝配置文件
mkdir /etc/masterha
cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
vim /etc/masterha/app1.cnf

[server default]
#日志文件
manager_log=/var/log/masterha/app1/manager.log
#工作目录
manager_workdir=/var/log/masterha/app1
#二进制文件
master_binlog_dir=/usr/local/mysql
#故障转移切换的工具
master_ip_failover_script=/usr/local/bin/master_ip_failover
#在线切换VIP工具管理
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#以下是密码账号的管理配置
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.126.60 -s 192.168.126.70
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.126.40
port=3306

[server2]
candidate_master=1
hostname=192.168.126.60
check_repl_delay=0
port=3306

[server3]
hostname=192.168.126.70
port=3306
############################配置文件解析#################

#manager工作目录
manager_log=/var/log/masterha/app1/manager.log
#manager日志
manager_workdir=/var/log/masterha/app1
#master保存binlog的位置,这里的路径要于master里配置的binlog
master_binlog_dir=/home/mysql
#设置自动failover时候切换脚本,也就是上一个配置的脚本
master_ip_failover_script=/usr/local/bin/master_ip_failover
#设置手动切换时候的切换脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#此处密码为之前创建监控用户的密码
password=manager
#设置监控用户
user=mha
#设置监控主库,发送ping包的事件间隔,默认为3秒,尝试三次没有回应的时候自动进性failover
ping_interval=1
#设置远端的MySQL在发生切换时binlog的保存位置
remote_workdir=/tmp
#设置复制用户的密码
repl_password=123456
#设置复制用户的账户
repl_user=myslave
#设置发生切换后发送的报警的脚本
report_script=/usr/local/send_report
#设置检查从服务器的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.226.131 -s 192.168.226.132
#设置故障发生后关闭故障主机脚本
shutdown_script=""
#设置ssh的登录用户名
ssh_user=root
[server2]
#设置候选master,如果设置了此参数,发送主从切换后,会将此库提升为主库
candidate_master=1
#关闭复制的检查,默认情况下如果一个slave落后master 100M的relay logs(中继日志)的话,MHA将不会选择该slave作为新的master,设置为0的话会忽略此规则
check_repl_delay=0
hostname=192.168.226.131
port=3306

Mysql 高可用 MHA_mysql_21

④测试无密码认证,如果正常会输出successfully

masterha_check_ssh -conf=/etc/masterha/app1.cnf

Mysql 高可用 MHA_服务器_22

#测试主从复制

masterha_check_repl -conf=/etc/masterha/app1.cnf

测试之前因兼容问题,需注释数据库的配置文件内的字符集(所有的数据库服务器)

Mysql 高可用 MHA_perl_23

然后重启后测试

#需注意:第一次配置需要在master节点上手动开启虚拟IP

/sbin/ifconfig ens33:1 192.168.226.100

Mysql 高可用 MHA_perl_24

启动MHA

#启动时会进行日志记录(在后台开启)

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

解释:

ohup //选项

masterha_manager //开启

--conf=/etc/masterha/app1.cnf  //指定配置文件

--remove_dead_master_conf //当master服务器失效时,发生主从切换后,会把旧的master的ip从主配置文件删

--ignore_last_failover//忽略故障转移,忽略掉总是宕机不够可靠的服务器

在缺省情况下,如果MHA检测到连续发生宕机,且两次宕机间隔不足8小时的话,则不会进行Failove之所以这样限制是为了避免ping-pong效应。该参数代表忽略桑次MHA出发切换产生的文件,默认情况 MHA发生切换后会在日志记录下,也就是上面设置的日志app1.failover.complete文件,

下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件:为了方便,这里设为为--ianore_last_failover

< /dev/null> //生成的所有信息会导到nul1下或者/var/log/masterha/app1/manager.log日志文件中

2>&1&  //把2错误性的输山从定向为标准性输山,"&"开启后台运行

Mysql 高可用 MHA_mysql_25

#查看到当前的master节点是谁

masterha_check_status --conf=/etc/masterha/app1.cnf

Mysql 高可用 MHA_perl_26

#查看当前日志信息

cat /var/log/masterha/app1/manager.log

 

5、验证

  manager服务器上启用监控观察日志

tail -f /var/log/masterha/app1/manager.log

#模拟故障查看master变化

pkill -9 mysql 或者 systemctl stop mysqld

 

#模拟故障:

#在主库pkill mysql

#可以看到从库的状态,其中之一肯定由切换为主库的

#切换备选主库的算法

#1一般判断从库是从(position/GTID)判断优劣,数据有差异,最接近于master的slave,称为备选主

#2、数据一致的情况下,按照配置文件顺序选择备选主库

#3、设定有权重(candidate_master=1),按照权重强制指定备选主

#1)默认情况下,如果一个slave落后master 100M的relay logs(中继日志)的话,即使有权重,也会失效

#2)如果check_repl_delay=0的话,即使落后很多日志,也强制选择其为备选主

先打开第二个manager终端,tail -f /var/log/masterha/app1/manager.log 跟踪日志

Mysql 高可用 MHA_mysql_27

在master上停止mysql服务

Mysql 高可用 MHA_mysql_28

查看slave1,

Mysql 高可用 MHA_服务器_29

日志分析

Mysql 高可用 MHA_perl_30

Mysql 高可用 MHA_mysql_31

Mysql 高可用 MHA_perl_32

Mysql 高可用 MHA_服务器_33

检测:

到slave 2

show slave status\G

Mysql 高可用 MHA_perl_34

Mysql 高可用 MHA_服务器_35

Mysql 高可用 MHA_perl_36

故障修复步骤:

#1、修复

①原master配置文件 添加中继日志、注释允许同步

log_bin=master-bin

#log_slave=updates=true

server_id=1

relay-log=relay-log-bin

relay-log-index=slave-relay-bin.index

 

service mysqld start

#2、修复主从(在数据库中输入)

主备服务器:show master status;

 

#修复的master:

 change master to master_host='192.168.126.60',master_user='myslave',master_password='123456',master_log_file='master-bin.000003',master_log_pos=2196;

start slave;

 

set global read_only=1;

 

flush privileges;

 

#3、修改配置文件app1.cnf(再把这个记录添加进去,因为它检测到失效时候会自动消失

[server1]

hostname=192.168.126.40

port=3306

#4、启动manager(在manager那台机器上)

nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

masterha_check_status --conf=/etc/masterha/app1.cnf

 

#查看到当前的master节点是谁

masterha_check_status --conf=/etc/masterha/app1.cnf