前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MySQL数据全量导入PG的方法

MySQL数据全量导入PG的方法

作者头像
保持热爱奔赴山海
发布2019-09-17 14:55:44
1K0
发布2019-09-17 14:55:44
举报
文章被收录于专栏:饮水机管理员饮水机管理员

下面会用到一个perl脚本来做数据格式的转换: https://github.com/ahammond/mysql2pgsql

1 导出mysql的数据

代码语言:javascript
复制
# 导出结构
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-data --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/struct.sql

# 导出数据
mysqldump bx_cmdb_37 --master-data=2  --skip-opt --default-character-set=utf8 --no-create-info  --compact --skip-dump-date --set-gtid-purged=OFF > /tmp/data.sql

2 使用perl脚本,将上一步骤中的2个sql转为pg格式的,命令类似如下

代码语言:javascript
复制
下载 到 /root/目录下
chmod +x /root/mysql2pgsql.perl

cd /tmp/

/root/mysql2pgsql.perl struct.sql struct_pg.sql
/root/mysql2pgsql.perl data.sql data_pg.sql

sed -i.bak 's# int # bigint #g' struct_pg.sql
sed -i.bak 's# smallint # int #g' struct_pg.sql
sed -i.bak 's# datetime(6) # timestamp #g' struct_pg.sql

做上面的几个sed替换操作的原因是: 这里我遇到几个问题(我下面的操作处理的不够优雅):
1 部分int unsigned的数据,perl脚本给转成了int signed,导致范围缩小了,后续插入数据可能溢出,因此我这里将全部建表语句中的int 替换为bigint
2 注意 datetime的列,在PG里面我们需要人工改成 timestamp 类型的,不然会报错
3 smallint 都改成 int类型,防止到PG中插入溢出

3 将文件导入到PG库中(注意可能有些不兼容的报错)

代码语言:javascript
复制
chown postgres.postgres /tmp/bbb.sql
psql --port 5434 -d testdb -f /tmp/bbb.sql   即可导入到PG的testdb库中

4 后续的增量数据同步,可以使用 go-mysql-postgresql来进行(下一篇blog介绍用法)

代码语言:javascript
复制
我们 导出data.sql 的时候, 已经带上 master-data了,很容易就知道最后复制的binlog位置。

## 参考  http://zhansq.cn/article/18-08-09/43.html

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-09-06 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
云数据库 SQL Server
腾讯云数据库 SQL Server (TencentDB for SQL Server)是业界最常用的商用数据库之一,对基于 Windows 架构的应用程序具有完美的支持。TencentDB for SQL Server 拥有微软正版授权,可持续为用户提供最新的功能,避免未授权使用软件的风险。具有即开即用、稳定可靠、安全运行、弹性扩缩等特点。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档