Bootstrap

MHA高可用

MySQL MHA

概念

MHA（Master High Availability）是一套用于 MySQL 数据库高可用性的解决方案，专注于在主从复制环境中实现快速且可靠的故障切换，以最小化数据丢失。MHA 主要适用于对数据一致性要求较高的中小规模单主环境，如金融、电商等核心业务系统。
核心优势：

  • 自动化：通过预配置的策略，MHA 能够在检测到主库故障时自动进行故障切换。
  • 低成本：相对于一些商业解决方案，MHA 的部署和维护成本较低。
  • 稳定性：MHA 已经在众多生产环境中得到了验证，具有较高的稳定性。

故障切换速度：

  • MHA 能够在 10-30 秒内完成故障切换操作，这对于大多数业务应用来说是可接受的。

数据一致性：

  • MHA 在故障切换过程中会尽可能地保证数据一致性，使得数据丢失的风险降到最低。

组成

MHA 架构主要由两个关键组件构成：MHA Node 和 MHA Manager。
MHA Node（数据节点）：

  • 部署在每个 MySQL 服务器上，负责在故障转移过程中保存和恢复数据。
  • 当主库发生故障时，MHA Node 会配合 MHA Manager 进行数据恢复和故障切换操作。

MHA Manager（管理节点）：

  • 部署在一台独立的机器上，或者部署在一台从库上。
  • 定时探测集群中各个节点的状态，包括主库和从库。
  • 当检测到主库故障时，MHA Manager 会自动选择最新数据的从库提升为新的主库，并更新其他从库的复制配置，使它们指向新的主库。
  • 整个故障转移过程对应用程序是透明的，应用程序可以继续进行正常的读写操作。

MHA 的特点

自动故障切换与数据恢复：

  • MHA 在故障切换过程中会尝试从宕机的主库上保存二进制日志，以便在切换完成后恢复数据，减少数据丢失。

支持半同步复制：

  • 半同步复制是 MySQL 提供的一种增强数据一致性的复制模式。当主库提交事务时，会等待至少一个从库确认收到该事务的日志后再返回成功。
  • MHA 结合半同步复制可以大大降低数据丢失的风险。在故障切换时，MHA 会将最新的二进制日志应用到其他从库上，确保所有节点的数据一致性。

环境要求：

  • MHA 对环境的要求较高，需要所有 MySQL 节点之间具备 SSH 免密登录，以确保 MHA Manager 可以无阻碍地访问所有数据库服务器。
  • 这通常需要通过配置 SSH 公钥认证来实现。

支持一主多从架构：

  • MHA 支持一主多从的架构，至少需要三台服务器：一台主库和两台从库。
  • 在实际生产环境中，通常会部署更多的从库以提高读性能和容灾能力。

部署与配置：

  • 部署 MHA 需要进行一系列的配置工作，包括安装 MHA 软件包、配置 SSH 免密登录、设置 MHA Manager 和 Node 的配置文件等。
  • 配置完成后，还需要进行故障切换演练（Failover Test）以验证 MHA 的有效性和可靠性。

监控与报警：

  • MHA 通常与监控系统和报警系统结合使用，以便在发生数据库故障时及时发出警报并触发故障切换流程。
  • 常用的监控工具包括 Zabbix、Prometheus 等，报警方式可以是邮件、短信或电话等。

搭建 MySQL MHA

环境准备

  • Master 节点服务器: CentOS7.4(64 位) mysql1/111.111.111.13 MHA manager
  • Slave1 节点服务器: CentOS7.4(64 位) mysql2/111.111.111.14
  • Slave2 节点服务器: CentOS7.4(64 位) mysql3/111.111.111.15

步骤详解

关闭防火墙与 SELinux

systemctl stop firewalld		# 停止防火墙服务
systemctl disable firewalld	# 禁止防火墙开机自启
setenforce 0					# 关闭 SELinux

安装 MySQL

  • 在所有节点上安装 MySQL 8.0。

### 修改主机名

- 在每个节点上修改主机名：

```bash
hostnamectl set-hostname mysql1	# 设置主机名为 mysql1
hostnamectl set-hostname mysql2	# 设置主机名为 mysql2
hostnamectl set-hostname mysql3	# 设置主机名为 mysql3

配置 MySQL 主配置文件**（注意server-id必须唯一）

  • Master 节点
vim /etc/my.cnf					# 编辑 MySQL 配置文件
[mysqld]
server-id = 1					# 设置 server-id 为 1
log_bin = mysql-bin			# 开启二进制日志
binlog_format = mixed			# 设置二进制日志格式为 mixed
log-slave-updates = true		# 允许从库更新二进制日志
relay-log = relay-bin			# 设置中继日志
systemctl restart mysqld		# 重启 MySQL 服务
  • Slave1、Slave2 节点
vim /etc/my.cnf					# 编辑 MySQL 配置文件
[mysqld]
server-id = 2					# 设置 server-id 为 2，确保每个服务器的 server-id 不同
log_bin = mysql-bin			# 开启二进制日志
binlog_format = mixed			# 设置二进制日志格式为 mixed
log-slave-updates = true		# 允许从库更新二进制日志
relay-log = relay-bin			# 设置中继日志
systemctl restart mysqld		# 重启 MySQL 服务

创建软链接

  • 在所有节点上创建 MySQL 和 MySQLbinlog 的软链接：
ln -s /usr/local/mysql/bin/mysql /usr/sbin/		# 创建 MySQL 命令软链接
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/	# 创建 MySQLbinlog 命令软链接

配置 MySQL 一主两从

  • 授权：
create user 'myslave'@'192.168.124.%' identified by 'myslave123';
create user  'manager'@'192.168.124.%' identified by 'manager123';
grant replication slave on *.* to 'myslave'@'192.168.124.%';
grant all privileges on *.* to 'manager'@'192.168.124.%';    #主从复制建立授权
flush privileges;

create user 'manager'@'mysql1' identified by 'manager123';
create user 'manager'@'mysql2' identified by 'manager123';
create user 'manager'@'mysql3' identified by 'manager123';
grant all privileges on *.* to 'manager'@'mysql1';
grant all privileges on *.* to 'manager'@'mysql2';
grant all privileges on *.* to 'manager'@'mysql3';            #MHA建立授权
flush privileges;
  • 在 Master 节点查看二进制文件和同步点：
show master status;														# 查看主库状态
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000001  |     1215 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
  • 在 Slave1、Slave2 节点执行同步操作：
change master to master_host='192.168.80.10',master_user='myslave',master_password='myslave123',master_log_file='mysql-bin.000001',master_log_pos=1215;	# 设置从库同步参数
start slave;																# 启动从库同步
  • 查看数据同步结果：
show slave status\G															# 查看从库状态
//确保 IO 和 SQL 线程都是 Yes，代表同步正常。
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
  • 设置两个从库为只读模式：
set global read_only=1;														# 设置从库为只读
  • 插入数据测试数据库同步。
    • 在 Master 主库插入条数据，测试是否同步
create database test_db;
use test_db;
create table test(id int);
insert into test(id) values (1);

安装 MHA 软件

  • 安装依赖环境：
yum install epel-release --nogpgcheck -y										# 安装 EPEL 源
yum install -y perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker perl-CPAN	# 安装 Perl 依赖包
  • 安装 MHA 软件包：
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz												# 解压 MHA node 组件
cd mha4mysql-node-0.57
perl Makefile.PL																	# 生成 Makefile
make && make install															# 编译安装
  • 在 MHA manager 节点上安装 manager 组件：
tar zxvf mha4mysql-manager-0.57.tar.gz												# 解压 MHA manager 组件
cd mha4mysql-manager-0.57
perl Makefile.PL																	# 生成 Makefile
make && make install															# 编译安装
manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：

masterha_check_repl：检查MySQL的复制状况
masterha_check_ssh：检查MHA的SSH配置状况
masterha_check_status：检测当前MHA运行状态
masterha_conf_host：添加或删除配置的server信息
masterha_manager：启动MHA
masterha_master_monitor：检测master是否宕机
masterha_master_switch：控制故障转移（自动或手动）
masterha_secondary_check：二次检查主库是否真有问题
masterha_stop：关闭MHA

node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下：

save_binary_logs：保存和复制master的二进制日志
apply_diff_relay_logs：识别差异的中继日志事件并将其差异的事件应用于其他的slave
filter_mysqlbinlog：去除不必要的ROLLBACK事件（MHA已不再使用这个工具）
purge_relay_logs：清除中继日志（不会阻塞SQL线程）

配置无密码认证

在 manager 节点上配置到所有数据库节点的无密码认证：

ssh-keygen -t rsa																# 生成 SSH 密钥
ssh-copy-id 192.168.80.10														# 复制公钥到主库
ssh-copy-id 192.168.80.11														# 复制公钥到从库1
ssh-copy-id 192.168.80.12														# 复制公钥到从库2

在每个 MySQL 节点上配置到其他 MySQL 节点的无密码认证：
在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.80.11
ssh-copy-id 192.168.80.12

在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.80.10
ssh-copy-id 192.168.80.12

在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证

ssh-keygen -t rsa
ssh-copy-id 192.168.80.10
ssh-copy-id 192.168.80.11

配置 MHA

复制脚本

cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin

复制MHA相关脚本到指定目录。
修改master_ip_failover脚本

vim /usr/local/bin/master_ip_failover

编辑脚本以配置VIP和相关网络参数。
修改内容如下：（删除原有内容，直接复制并修改vip相关参数。可在拷贝前输入 :set paste 解决vim粘贴乱序问题）

#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.80.200';									#指定vip的地址
my $brdc = '192.168.80.255';								#指定vip的广播地址
my $ifdev = 'ens33';										#指定vip绑定的网卡
my $key = '1';												#指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";		#代表此变量值为ifconfig ens33:1 192.168.80.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";		#代表此变量值为ifconfig ens33:1 192.168.80.200 down
my $exit_code = 0;											#指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

创建 MHA 软件目录并拷贝配置文件，这里使用app1.cnf配置文件来管理 mysql 节点服务器

#创建相关目录（所有节点）
mkdir -p /opt/mysql-mha/mha-node

#manager节点
mkdir -p /opt/mysql-mha/mha-manager

#编写配置文件
vim /opt/mysql-mha/mysql_mha.cnf
[server default]
manager_log=/opt/mysql-mha/manager.log		#指定manager日志路径
manager_workdir=/opt/mysql-mha/mha-manager	#指定manager工作目录
remote_workdir=/opt/mysql-mha/mha-node		#指定mha在远程节点上的工作目录
master_binlog_dir=/usr/local/mysql/data		#指定master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
ping_interval=1				#设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
user=manager				#设置mha访问数据库的账号
password=manager123			#设置mha访问数据库的账号密码
repl_user=myslave			#设置主从复制的用户
repl_password=myslave123	#设置主从复制的用户密码
report_script=/usr/local/bin/send_report　　　　　#设置发生故障切换的时候发送邮件提醒
port=3306
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.80.11 -s 192.168.80.12	#指定用于二次检查节点状态的脚本
ssh_user=root				#设置ssh的登录用户名

[server1]
hostname=192.168.80.10
port=3306

[server2]
hostname=192.168.80.11
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave

check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.80.12
port=3306

启动 MHA

手动开启虚拟IP
/sbin/ifconfig ens33:1 192.168.80.200/24

在Master节点上手动设置虚拟IP。

检查 MHA 状态
  • 测试SSH无密码认证
    masterha_check_status --conf=/opt/mysql-mha/mysql_mha.cnf					# 检查 MHA 状态
  • 如果正常最后会输出 successfully，如下所示。
Tue Nov 26 23:09:45 2020 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.
Tue Nov 26 23:09:45 2020 - [info] Reading application default configuration from /opt/mysql-mha/mysql_mha.cnf..
Tue Nov 26 23:09:45 2020 - [info] Reading server configuration from /opt/mysql-mha/mysql_mha.cnf..
Tue Nov 26 23:09:45 2020 - [info] Starting SSH connection tests..
Tue Nov 26 23:09:46 2020 - [debug] 
Tue Nov 26 23:09:45 2020 - [debug]  Connecting via SSH from [email protected](192.168.80.11:22) to [email protected](192.168.80.12:22)..
Tue Nov 26 23:09:46 2020 - [debug]   ok.
Tue Nov 26 23:09:47 2020 - [debug] 
Tue Nov 26 23:09:46 2020 - [debug]  Connecting via SSH from [email protected](192.168.80.12:22) to [email protected](192.168.80.11:22)..
Tue Nov 26 23:09:47 2020 - [debug]   ok.
Tue Nov 26 23:09:47 2020 - [info] All SSH connection tests passed successfully.
  • 测试MySQL主从连接检查MySQL复制健康状态。
masterha_check_repl -conf=/opt/mysql-mha/mysql_mha.cnf
  • 最后出现 MySQL Replication Health is OK 字样说明正常。如下所示。
Tue Nov 26 23:10:29 2020 - [info] Slaves settings check done.
Tue Nov 26 23:10:29 2020 - [info] 
192.168.80.11(192.168.80.11:3306) (current master)
 +--192.168.80.12(192.168.80.12:3306)

Tue Nov 26 23:10:29 2020 - [info] Checking replication health on 192.168.80.12..
Tue Nov 26 23:10:29 2020 - [info]  ok.
Tue Nov 26 23:10:29 2020 - [info] Checking master_ip_failover_script status:
Tue Nov 26 23:10:29 2020 - [info]   /usr/local/bin/master_ip_failover --command=status --ssh_user=root --orig_master_host=192.168.80.11 --orig_master_ip=192.168.80.11 --orig_master_port=3306 


IN SCRIPT TEST====/sbin/ifconfig ens33:1 down==/sbin/ifconfig ens33:1 192.168.80.200===

Checking the Status of the script.. OK 
Tue Nov 26 23:10:29 2020 - [info]  OK.
Tue Nov 26 23:10:29 2020 - [warning] shutdown_script is not defined.
Tue Nov 26 23:10:29 2020 - [info] Got exit code 0 (Not master dead).

MySQL Replication Health is OK.
在 manager 节点上启动 MHA
    nohup masterha_manager --conf=/opt/mysql-mha/mysql_mha.cnf --remove_dead_master_conf --ignore_last_failover > /var/log/mha_manager.log < /dev/null 2>&1 &	# 后台启动 MHA manager

--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在 app1.failover.complete 日志文件中记录，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换， 除非在第一次切换后删除该文件，为了方便，这里设置为--ignore_last_failover。

  • 使用&后台运行程序：结果会输出到终端；使用Ctrl+C发送SIGINT信号，程序免疫；关闭session发送SIGHUP信号，程序关闭。
  • 使用nohup运行程序：结果默认会输出到nohup.out；使用Ctrl+C发送SIGINT信号，程序关闭；关闭session发送SIGHUP信号，程序免疫。
  • 使用nohup和&配合来启动程序nohup ./test &：同时免疫SIGINT和SIGHUP信号。

查看 MHA 日志

    cat /opt/mysql-mha/manager.log | grep "current master"					# 查看当前主库

查看 VIP 地址

   ifconfig																# 查看网络配置，确认 VIP 地址

关闭 MHA 服务

   masterha_stop --conf=/opt/mysql-mha/mysql_mha.cnf							# 停止 MHA 服务

故障模拟

在 manager 节点上监控观察日志记录

tail -f /opt/mysql-mha/manager.log

在 Master 节点 mysql1 上停止mysql服务

systemctl stop mysqld
或
pkill -9 mysql

正常自动切换一次后，MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容，将宕机的 mysql1 节点删除。查看 mysql2 是否接管 VIP

ifconfig

故障切换备选主库的算法：
1．一般判断从库的是从（position/GTID）判断优劣，数据有差异，最接近于master的slave，成为备选主。
2．数据一致的情况下，按照配置文件顺序，选择备选主库。
3．设定有权重（candidate_master=1），按照权重强制指定备选主。
（1）默认情况下如果一个slave落后master 100M的relay logs的话，即使有权重，也会失效。
（2）如果check_repl_delay=0的话，即使落后很多日志，也强制选择其为备选主。

1. 修复MySQL服务

systemctl restart mysqld

2. 修复主从复制

在现主库服务器 mysql2 查看二进制文件和同步点
SHOW MASTER STATUS;

这一步是为了获取当前主库的二进制日志文件名和位置。

在原主库服务器 mysql1 执行同步操作
CHANGE MASTER TO
MASTER_HOST='192.168.80.11',
MASTER_USER='myslave',
MASTER_PASSWORD='myslave123',
MASTER_LOG_FILE='mysql-bin.000001',
MASTER_LOG_POS=1745;

START SLAVE;

这一步是将原主库 mysql1 设置为从库，并开始同步现主库 mysql2 的数据。
MASTER_LOG_FILE 和 MASTER_LOG_POS 参数指定了同步的起始点。

3. 修改配置文件 app1.cnf

在 manager 节点上修改配置文件app1.cnf（再把这个记录添加进去，因为它检测掉失效时候会自动消失）

vi /etc/masterha/app1.cnf

在配置文件中添加或修改以下内容：

secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.80.10 -s 192.168.80.11 -s 192.168.80.12

[server1]
hostname=192.168.80.11
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.80.10
port=3306

[server3]
hostname=192.168.80.12
port=3306

这一步是为了配置MHA的监控和管理，确保MHA能够检测到主库的状态并进行相应的故障转移。

4. 启动MHA管理器

启动MHA管理器，使其开始监控和管理MySQL主从复制集群。
--remove_dead_master_conf 参数确保在主库故障时移除失效的主库配置，--ignore_last_failover 参数忽略上一次的故障转移记录。

nohup masterha_manager \
--conf=/opt/mysql-mha/mysql_mha.cnf \
--remove_dead_master_conf \
--ignore_last_failover < /dev/null > /var/log/mha_manager.log 2>&1 &

注意

  1. 权限设置：确保执行这些操作的用户具有足够的权限，特别是在修改配置文件和启动服务时。
  2. 日志检查：定期检查 /var/log/mha_manager.log 和其他相关日志文件，以便及时发现和解决潜在问题。
  3. 备份：在进行任何重大操作之前，建议先备份数据库，以防数据丢失。
  4. 解决中英字不兼容报错的问题：dos2unix /usr/local/bin/master_ip_failover

悦读

道可道，非常道；名可名，非常名。 无名，天地之始，有名，万物之母。 故常无欲，以观其妙，常有欲，以观其徼。 此两者，同出而异名，同谓之玄，玄之又玄，众妙之门。

最新收录
Redis 高可用之 Sentinel
RMI 基础教程－－转
windows安装pycrypto出错问题
SHAP 的局限性
Lua一维数组与多维数组的使用示例例子解析
AI绘画Stable Diffusion ，3种方法精确控制人物姿势，总有一种适合你！
【ssh】Mac 使用 ssh 连接阿里云报错：Connection reset by 8.155.1.xxx port 22
STM32+CubeMX -- 开发辅助工具
自动驾驶系列—激光雷达点云数据在自动驾驶场景中的深度应用
HTML5的简单总结学习
;