拷贝ibd实现MySQL的数据导入

保持热爱奔赴山海

发布于 2019-09-18 15:41:26

3.7K0

发布于 2019-09-18 15:41:26

文章被收录于专栏：饮水机管理员饮水机管理员

官方手册介绍：

http://dev.mysql.com/doc/refman/5.7/en/tablespace-copying.html

http://dev.mysql.com/doc/refman/5.7/en/innodb-transportable-tablespace-examples.html

实验环境:

阿里云主机（双核4G，普通云盘，2个节点都是yum安装的mysql-community-server5.6 ）

db1.table1的大小（ibd文件大小 1.2GB 备份出的sql文件大小为750MB）

test1节点上:

> use db1;
> FLUSH TABLE table1 FOR EXPORT;

# cd /var/lib/mysql/db1
# scp table1.ibd table1.cfg root@test2:/root/   # 因为是内网传输，因此这步花费不到1分钟的时间

> UNLOCK tables;

test2节点上：

> use db1;
> truncate table table1;
> alter table table1 discard tablespace;

# cp /root/table1.* /var/lib/mysql/db1/
# chown mysql.mysql /var/lib/mysql/db1/ -R

> alter table table1 import tablespace;   # 这一步花费了45s

> select count(*) from table1;   可以看到数据全部导入了

上面的这种方法导数据全部过程花费了3分钟吧。

而同样的数据，测试使用sql文件导入的花费的时间： 10分钟。二者高下立判。

附后来写的一个传输并导入远程主机的脚本：

#!/bin/bash
# Description: 简单粗暴的将表空间文件传输到其他节点,并实现导入操作,线上使用出问题后果自行承担
# Date: 2017/01/08
# Author: Lee

LOG="/tmp/trans.log"

LOCAL_USER='root'
LOCAL_PASS='123456'

DATADIR="/var/lib/mysql/"
MYSQL='/usr/bin/mysql'

# step1 传输*.ibd *.cfg文件到其他节点 
# 参数说明：
# $1 数据库名称
# $2 表名称
# $3 目标主机的地址
if [ $# -eq 3 ]; then
  $MYSQL -u$LOCAL_USER -p$LOCAL_PASS -e "use $1; FLUSH TABLE $2 FOR EXPORT; system scp $DATADIR$1/$2.ibd $3:/root; system scp $DATADIR$1/$2.cfg $3:/root; UNLOCK TABLES;" > /dev/null 2>&1
else
  echo -e "\n\033[31mUsage: sh $0 数据库名 表名 远程主机IP\033[0m\n" && exit 1
fi

if [ $? -eq 0 ]; then
  echo -e "\033[32m 传输到远程主机成功  $(date +"%F %T") \033[0m" | tee -a $LOG
else
  echo -e "\033[32m 传输到远程主机失败  $(date +"%F %T") \033[0m" | tee -a $LOG && exit 10
fi

# step2 ssh 连接到远程节点，将拷贝的数据导入数据库
REMOTE_USER="root"
REMOTE_PASS="123456"
MYSQL='/usr/bin/mysql'

ssh root@$3 "$MYSQL -u$REMOTE_USER -p$REMOTE_PASS -e 'truncate table $1.$2; alter table $1.$2 discard tablespace;system cp /root/$2.* /var/lib/mysql/$1/;system chown mysql.mysql -R /var/lib/mysql;alter table $1.$2 import tablespace;'" > /dev/null 2>&1

if [ $? -eq 0 ]; then
  echo -e "\033[32m 导入到远程主机成功  $(date +"%F %T") \033[0m" | tee -a $LOG
else
  echo -e "\033[32m 导入到远程主机失败  $(date +"%F %T") \033[0m" | tee -a $LOG
fi

本文参与腾讯云自媒体分享计划，分享自作者个人站点/博客。

原始发表：2017-01-08 ，如有侵权请联系 cloudcommunity@tencent.com 删除

http