前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MySQL 使用 XtraBackup 进行数据热备份指导 [全量+增量]

MySQL 使用 XtraBackup 进行数据热备份指导 [全量+增量]

作者头像
泥豆芽儿 MT
发布2021-02-02 16:21:10
2.4K0
发布2021-02-02 16:21:10
举报

背景

  • 最近一直涉猎 MySQL 数据库的操作、集群部署知识 注意到,为保证数据安全,掌握数据备份是极为重要的 相比小型服务的冷备份而言 在此推荐并整理,更受推崇的 XtraBackup 下的热备份技巧

☞ 概念了解 [XtraBackup]

XtraBackup 是一种物理备份工具,通过协议连接到 MySQL 服务端,然后读取并复制底层的文件,完成物理备份

  • 优势 XtraBackup 备份过程中加读锁,数据可读,但是不可写(分以下情况) Innodb 引擎的备份是无阻塞的备份,不会影响表的读写操作 MyISAML 引擎是要加读锁的,只能读不能写 XtraBackup 备份过程不会打断正在执行的事务 XtraBackup 能够基于压缩等功能节约硬盘空间和流量 XtraBackup 还可以将数据加密,让他更加安全 官方指导文档 —— 【 Percona XtraBackup-文档】
  • 环境
代码语言:javascript
复制
CentOS7.9	Percona XtraBackup 2.4	MySQL5.7.32

前期准备

1). 下载 Percona-XtraBackup

代码语言:javascript
复制
wget https://downloads.percona.com/downloads/Percona-XtraBackup-2.4/Percona-XtraBackup-2.4.21/binary/redhat/7/x86_64/Percona-XtraBackup-2.4.21-r5988af5-el7-x86_64-bundle.tar
tar xvf Percona-XtraBackup-2.4.21-r5988af5-el7-x86_64-bundle.tar #解压命令
yum localinstall *.rpm #安装命令
  • 查看安装情况: rpm -qa|grep xtrabackup
代码语言:javascript
复制
[root@localhost download]# rpm -qa|grep xtrabackup
percona-xtrabackup-24-2.4.21-1.el7.x86_64
percona-xtrabackup-test-24-2.4.21-1.el7.x86_64
percona-xtrabackup-24-debuginfo-2.4.21-1.el7.x86_64
  • 查看安装目录: rpm -ql percona-xtrabackup-24-2.4.21-1.el7.x86_64
代码语言:javascript
复制
[root@localhost download]#  rpm -ql percona-xtrabackup-24-2.4.21-1.el7.x86_64
/usr/bin/innobackupex #是将xtrabackup进行封装的perl脚本,提供了备份myisam表的能力
/usr/bin/xbcloud
/usr/bin/xbcloud_osenv
/usr/bin/xbcrypt
/usr/bin/xbstream
/usr/bin/xtrabackup #最主要的备份工具,是用于热备 innodb,xtradb表中数据的工具,不能备份其他类型的表,也不能备份数据表结构
/usr/lib64/xtrabackup/plugin/keyring_file.so
/usr/lib64/xtrabackup/plugin/keyring_vault.so
/usr/share/doc/percona-xtrabackup-24-2.4.21
/usr/share/doc/percona-xtrabackup-24-2.4.21/LICENSE
/usr/share/man/man1/innobackupex.1.gz
/usr/share/man/man1/xbcrypt.1.gz
/usr/share/man/man1/xbstream.1.gz
/usr/share/man/man1/xtrabackup.1.gz

2). 创建用于备份的用户

  • 此处,作为入门可以先创建一个最简单的用户, SQL 语句如下: (后期,根据自己的实际需求再考虑更安全、完整的用户即可)
代码语言:javascript
复制
mysql> CREATE USER 'bkpuser'@'localhost' IDENTIFIED BY 'bk_mT007';
mysql> GRANT RELOAD, LOCK TABLES, PROCESS, REPLICATION CLIENT ON *.* TO 'bkpuser'@'localhost';
mysql> FLUSH PRIVILEGES;

☛ 全量备份、全备恢复还原

全量备份与还原操作,根据实际业务是完全可以分开执行的 (平时做备份,出问题做还原)

▷ 全量备份操作

备份时需启动 MySQL 服务 【percona-xtrabackup2.4 文档 】

  • 此处提供两个 innobackupex 备份指令,可供选择 对于各参数的解释,请阅读 【附录 - innobackupex 操作参数解释】 当前操作,我将备份的文件都会存于"/www/server/backUp" 目录下
  • 第一个指令, 不指定备份文件名称,会生成一个带时间戳的文件名,如:"2021-01-27_19-01-45" innobackupex --defaults-file=/etc/my.cnf --user=bkpuser --password=bk_mT007 /www/server/backUp
  • 第二个指令(本文演示使用第二个指令), 指定了备份文件名称,此处会生成的文件为:"back_data" innobackupex --defaults-file=/etc/my.cnf --user=bkpuser --password=bk_mT007 --no-timestamp /www/server/backUp/back_data
  • 正常运行, 最终会在目录 "/www/server/backUp/back_data" 中,查看到生成的备份数据 打印信息展示如下: (对于各生成文件的解释可参考 【文件功能说明】
代码语言:javascript
复制
...
210128 11:13:09 [00]        ...done
xtrabackup: Transaction log of lsn (2796124) to (2796169) was copied.
210128 11:13:09 completed OK! # 说明成功运行备份操作

[root@localhost backUp]# ll
drwxr-x--- 6 root root    239 1月  28 11:13 back_data

[root@localhost backUp]# cd back_data/
[root@localhost back_data]# ll
总用量 12340
-rw-r----- 1 root root      487 1月  28 11:13 backup-my.cnf # 备份用到的配置选项信息文件
-rw-r----- 1 root root      314 1月  28 11:13 ib_buffer_pool
-rw-r----- 1 root root 12582912 1月  28 11:13 ibdata1
drwxr-x--- 2 root root     4096 1月  28 11:13 mysql
drwxr-x--- 2 root root     8192 1月  28 11:13 performance_schema
drwxr-x--- 2 root root     8192 1月  28 11:13 sys
drwxr-x--- 2 root root      102 1月  28 11:13 test_pxc
-rw-r----- 1 root root       26 1月  28 11:13 xtrabackup_binlog_info # 记录的是备份完成的那个时间点的 binlog 位点
-rw-r----- 1 root root      135 1月  28 11:13 xtrabackup_checkpoints # 备份类型、状态和 LSN 信息等
-rw-r----- 1 root root      543 1月  28 11:13 xtrabackup_info # 你备份的时候的一些参数,脚本版本,数据库版本,备份时间等
-rw-r----- 1 root root     2560 1月  28 11:13 xtrabackup_logfile # 备份的日志文件

提示一下 : 至此,全量备份已完成,一般计划任务做到备份就可以咯!

▷ 使用全备恢复还原

其实,一般发现数据出现问题时,才会考虑使用 全量备份恢复还原

1). 拷贝一份现有数据,避免异常

关闭 mysql 服务: service mysql stop

生产环境,为了避免数据备份出差错后的恢复,建议:找到数据库 data 目录,删除数据或拷贝

  • 可在 my.cnf 文件中查看 "datadir" 参数, 比如我的虚拟机中的配置信息为: "datadir=/var/lib/mysql/data""/var/lib/mysql/data_back" 即为我拷贝到的新位置) 则执行命令如下:
代码语言:javascript
复制
mv /var/lib/mysql/data /var/lib/mysql/data_back

2). 准备 (prepare) 一个完全备份

为了合并数据,使数据文件处于一致性的状态,回滚没有提交的事务,同步已经提交的事务到数据文件

  • apply-log 执行命令如下:
代码语言:javascript
复制
innobackupex --apply-log /www/server/backUp/back_data

最终会出现类似 "210128 14:40:27 completed OK!" 的打印信息,说明执行正确

3). 从一个完全备份中恢复数据

通过配置文件,copy 备份目录到 mysql 数据目录 (自行处理文件分区等)

  • 恢复数据,将备份数据文件拷贝到原数据目录
代码语言:javascript
复制
innobackupex  --defaults-file=/etc/my.cnf  --copy-back  /www/server/backUp/back_data
  • 此时,可以注意到,数据已恢复

4). 修改数据目录的所有者

当数据恢复至 DATADIR 目录以后,还需要确保所有的数据文件的属主和属组均为正确的用户

  • 这一步很重要:否则,在启动 mysql 之前还需要事先修改数据文件的属主和属组
代码语言:javascript
复制
chown mysql:mysql -R /var/lib/mysql/data

5). 重启 mysql 服务

注意一点,如果是 PXC集群,那么重启命令也可能不同

代码语言:javascript
复制
service mysql start # 普遍的 mysql 启动命令
systemctl start mysql@bootstrap.service # PXC 第一个节点的启动命令

如果,mysql 服务正常启动了,那就说明你的操作是顺利没有问题的咯!

▷ 总结

■ 全库备份与恢复三步曲

a. innobackupex 全量备份,并指定备份目录路径;

b. 在恢复前,需要使用 --apply-log 参数先进行合并数据文件,确保数据的一致性要求;

c. 恢复时,直接使用 --copy-back 参数进行恢复,需要注意的是,在 my.cnf 中要指定数据文件目录的路径


☛ 增量备份、增备恢复还原

【注意】:增量备份仅能应用于 InnoDBXtraDB 表,对于 MyISAM 表而言,执行增量备份时其实进行的是完全备份

  • 【推荐阅读】
代码语言:javascript
复制
	使用 innobackupex 进行增量备份,
	每个 InnoDB 的页面都会包含一个 LSN 信息,每当相关的数据发生改变,相关的页面的LSN就会自动增长。
	这正是 InnoDB 表可以进行增量备份的基础,
	即 innobackupex 通过备份上次完全备份之后发生改变的页面来实现。

	在进行增量备份时,首先要进行一次全量备份,
	第一次增量备份是基于全备的,之后的增量备份都是基于上一次的增量备份的,以此类推 ...

▷ 基于当前最新的全量备份

前提是,当下存在前面全量备份的文件哦,以我前面得到的 "back_data" 为例

为了模拟真实环境,此时可以在 mysql 数据库中创建一个表,或增删改动几条数据

  • 此处,指定生成的增量备份文件名为 "/www/server/backUp/inc_back_data" 注意对参数 "--incremental-basedir" 的指定 执行命令如下:
代码语言:javascript
复制
innobackupex --defaults-file=/etc/my.cnf --incremental --user=bkpuser --password=bk_mT007 --no-timestamp --incremental-basedir=/www/server/backUp/back_data /www/server/backUp/inc_back_data
  • 可以分别查看备份目录中的 "xtrabackup_checkpoints" 文件 对于两个文件中各"from_lsn""to_lsn" 等参数的不同 实际项目中,其实就是因为热备份情况下的数据一直在更新操作! 得到的列表展示如下:
代码语言:javascript
复制
...
210127 19:15:30 [00]        ...done
xtrabackup: Transaction log of lsn (2796693) to (2796718) was copied.
210127 19:15:30 completed OK!

[root@localhost backUp]# ll
总用量 56
drwxr-x--- 6 root root   239 1月  27 19:01 back_data # 全量备份的数据
drwxr-x--- 6 root root   265 1月  27 19:15 inc_back_data # 增量备份的数据

[root@localhost backUp]# cat back_data/xtrabackup_checkpoints
backup_type = full-backuped 	#备份类型为全量备份
from_lsn = 0 	#lsn 从 0 开始
to_lsn = 2788734 	#lsn 到 2788734 结束
last_lsn = 2788750
compact = 0
recover_binlog_info = 0
flushed_lsn = 2788743	#lsn 刷新的位置

[root@localhost backUp]# cat inc_back_data/xtrabackup_checkpoints
backup_type = incremental #备份类型为增量备份
from_lsn = 2788734	#lsn 从 2788734 开始
to_lsn = 2796709	#lsn 到 2796709 结束
last_lsn = 2796718
compact = 0
recover_binlog_info = 0
flushed_lsn = 2796702	#lsn 刷新的位置

注意:

  • 在这种情况下,您可以看到 to_lsn (最后一个检查点 LSN)和 last_lsn(最后一个复制的LSN)之间存在差异,这意味着在备份过程中,服务器上有一些流量 …

【提示】:之后的增量备份操作,都是基于上一次的增量备份,以此类推 …

▷ 增量备份后数据恢复

关闭 mysql 服务: service mysql stop

为了模拟数据损坏,可以删掉原来的数据目录,或者拷贝一份

1). 合并全备数据目录

  • 首先,确保全备数据的一致性
代码语言:javascript
复制
innobackupex --apply-log --redo-only /www/server/backUp/back_data/
  • 将增量备份数据合并到全备数据目录当中
代码语言:javascript
复制
innobackupex --apply-log --redo-only /www/server/backUp/back_data/ --incremental-dir=/www/server/backUp/inc_back_data/
  • 此时可以查看到全量备份的数据的 "xtrabackup_checkpoints" 文件 其参数"backup_type " 变为了:"log-applied" 并且 "from_lsn""to_lsn""flushed_lsn " 都会成为最新数据
代码语言:javascript
复制
[root@localhost backUp]# cat back_data/xtrabackup_checkpoints
backup_type = log-applied  #查看到数据备份类型是增加
from_lsn = 0
to_lsn = 2796709
last_lsn = 2796718
compact = 0
recover_binlog_info = 0
flushed_lsn = 2796702

2). 恢复/还原数据

  • 执行 innobackupex --copy-back 指令
代码语言:javascript
复制
innobackupex --copy-back /www/server/backUp/back_data/
  • 修改数据目录的所有者
代码语言:javascript
复制
chown mysql:mysql -R /var/lib/mysql/data
  • 重启 mysql 服务
代码语言:javascript
复制
service mysql start

▷ 总结

■ 增量备份与恢复,还原步骤

(1)增量备份需要使用参数 --incremental 指定需要备份到哪个目录,使用incremental-dir指定全备目录;

(2)进行数据备份时,需要使用参数 --apply-log redo-only 先合并全备数据目录数据,确保全备数据目录数据的一致性;

(3)再将增量备份数据使用参数 --incremental-dir 合并到全备数据当中;

(4)最后通过最新的全备数据进行恢复数据,注意,如果有多个增量备份,需要逐一合并到全备数据当中,再进行恢复


☞ 实际应用 —[定时任务]

一般来说,建议使用计划任务进行备份操作:每周全量备份一次,每天增量备份一次

▷ 全量备份脚本、计划任务

1). 编辑全量备份的脚本

  • 创建脚本
代码语言:javascript
复制
touch back_up.sh
  • 打开脚本并添加全量备份信息如下: (在此,我没有使用时间戳,避免太多备份文件,直接指定了一个文件目录)
代码语言:javascript
复制
# !/bin/bash
BACKUP_PATH='/www/server/backUp/back_data'
# 为了避免冲突,先删除文件夹
find ${BACKUP_PATH} -exec rm -rf {} \; > /dev/null 2>&1
time=$(date "+%Y-%m-%d %H:%M:%S")
echo "执行全量热备份 ${time}"
innobackupex --defaults-file=/etc/my.cnf --user=bkpuser --password=bk_mT007 --no-timestamp ${BACKUP_PATH}

【注意】: 脚本文件不要在 windows 环境下编写,最好使用 Linux 下的 vim,以免回车键影响文件出现问号"?"

  • 给予权限
代码语言:javascript
复制
chmod -R 755 back_up.sh

【提示】: 此时,为测试脚本是否正常执行,可使用指令:"./back_up.sh",试验一下!

2). 计划任务的配置

  • 编写计划任务
代码语言:javascript
复制
crontab -e
  • 此处,为了测试方便, 我设定了每 3 分钟进行一次备份操作 并将日志信息打印到 "/www/server/backUp/back_log.log"
代码语言:javascript
复制
*/3 * * * * /www/server/backUp/back_up.sh > /www/server/backUp/back_log.log 2>&1

【提示】:一般建议每周一,进行一次备份,参考:0 0 * * 1,—— 【crontab 将脚本错误写入指定日志文件】

  • crontab 计划任务在添加或修改后,需要保存并重启服务才能生效
代码语言:javascript
复制
systemctl restart crond

▷ 增量备份脚本、计划任务

可以对比上面的步骤,此处不会介绍的太详细 …

  • 创建脚本
代码语言:javascript
复制
touch inc_back_up.sh
  • 打开脚本并添加全量备份信息如下: (在此,指定了一个增量备份文件目录:"/www/server/backUp/inc_back_data"
代码语言:javascript
复制
# !/bin/bash
BACKUP_PATH='/www/server/backUp/back_data'
INC_BACKUP_PATH='/www/server/backUp/inc_back_data'
# 为了避免冲突,先删除文件夹
find ${INC_BACKUP_PATH} -exec rm -rf {} \; > /dev/null 2>&1
time=$(date "+%Y-%m-%d %H:%M:%S")
echo "执行增量热备份 ${time}"
innobackupex --defaults-file=/etc/my.cnf --user=bkpuser --password=bk_mT007 --no-timestamp --incremental ${INC_BACKUP_PATH} --incremental-basedir=${BACKUP_PATH} 
innobackupex --apply-log --redo-only ${BACKUP_PATH}
innobackupex --apply-log --redo-only ${BACKUP_PATH} --incremental-dir=${INC_BACKUP_PATH}
  • 给予权限
代码语言:javascript
复制
chmod -R 755 inc_back_up.sh
  • 定时全量热备脚本
代码语言:javascript
复制
crontab -e
  • 为了测试方便,我设定了每 3 分钟进行一次增量备份操作
代码语言:javascript
复制
*/3 * * * * /www/server/backUp/inc_back_up.sh > /www/server/backUp/inc_back_log.log 2>&1

【提示】:一般建议每天,进行一次备份,参考:0 0 * * *

  • 保存并重启 crontab 服务
代码语言:javascript
复制
systemctl restart crond

▷ 总结

注意我对执行脚本中,指令的执行顺序

  • 上面的计划任务操作后,最终演示目录"/www/server/backUp" 下的文件情况:

后期若是选定一台 【从机】进行数据恢复,那么停机、合并全备份数据,还原操作即可 …

  • 毕竟鄙人也是初次接触 实际生产环境中,可作具体的优化 比如:在多台从机上配置备份任务,避免不确定哪台服务器宕机等 …

附录

♦ 参考文章

推荐文章 —— 【MySQL入门篇(七)之 Xtrabackup 备份与恢复】

innobackupex 操作参数解释

参数

解释

–defaults-file=/etc/my.cnf

指定 mysql 配置文件位置(如果是"/etc/my.cnf"可以不适用此参数,如果使用了必须放在第一个位置)

–datadir=/var/lib/mysql/data

指定所要备份的数据目录,不使用,会默认指定 my.cnf 文件中的"datadir"参数配置

–user=bkpuser

指定备份用户

–host

指定主机

–port

指定端口号,默认为 3306

/www/server/backUp

自定义,指定备份目录

–no-timestamp

不创建时间戳目录

–stream=xbstream

开启流式备份,如果开启,则前面的指令写法为:innobackupex --defaults-file=/etc/my.cnf --user=bkpuser --password=bk_mT007 --no-timestamp --stream=xbstream -> /www/server/backup.xbstream

–incremental

表示创建一个增量备份,需要指定–incremental-basedir

–incremental-basedir

表示接受了一个字符串参数指定含有full backup的目录为增量备份的base目录,与–incremental同时使用

–incremental-dir

该选项表示增量备份的目录

♦ MySQL 用户操作指令

  • 查看 MySQL 数据库中所有用户 SELECT DISTINCT CONCAT('User: ''',user,'''@''',host,''';') AS query FROM mysql.user;
  • 查看数据库中具体某个用户的权限 show grants for 'repl_moTzxx'@'192.168.80.224'
  • 删除一个用户 drop user 'repl_moTzxx'@'192.168.80.224'
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2021-01-27 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 背景
    • ☞ 概念了解 [XtraBackup]
    • 前期准备
      • 1). 下载 Percona-XtraBackup
        • 2). 创建用于备份的用户
        • ☛ 全量备份、全备恢复还原
          • ▷ 全量备份操作
            • ▷ 使用全备恢复还原
              • 1). 拷贝一份现有数据,避免异常
              • 2). 准备 (prepare) 一个完全备份
              • 3). 从一个完全备份中恢复数据
              • 4). 修改数据目录的所有者
              • 5). 重启 mysql 服务
            • ▷ 总结
            • ☛ 增量备份、增备恢复还原
              • ▷ 基于当前最新的全量备份
                • ▷ 增量备份后数据恢复
                  • 1). 合并全备数据目录
                  • 2). 恢复/还原数据
                • ▷ 总结
                • ☞ 实际应用 —[定时任务]
                  • ▷ 全量备份脚本、计划任务
                    • 1). 编辑全量备份的脚本
                    • 2). 计划任务的配置
                  • ▷ 增量备份脚本、计划任务
                    • ▷ 总结
                    • 附录
                      • ♦ 参考文章
                        • ♦ innobackupex 操作参数解释
                          • ♦ MySQL 用户操作指令
                          相关产品与服务
                          云数据库 SQL Server
                          腾讯云数据库 SQL Server (TencentDB for SQL Server)是业界最常用的商用数据库之一,对基于 Windows 架构的应用程序具有完美的支持。TencentDB for SQL Server 拥有微软正版授权,可持续为用户提供最新的功能,避免未授权使用软件的风险。具有即开即用、稳定可靠、安全运行、弹性扩缩等特点。
                          领券
                          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档