本文为您介绍如何使用 DTS 数据同步功能将云数据库 MySQL 同步数据至腾讯云企业级分布式数据库 TDSQL PostgreSQL版。
前提条件
已创建 云数据库 MySQL 实例,数据同步支持的源数据库版本为:MySQL 5.6、MySQL 5.7。
已创建 TDSQL PostgreSQL版 实例。
需要在源端 MySQL 实例中创建迁移账号,需要的账号权限包括
RELOAD
、LOCK TABLES
、REPLICATION CLIENT
、REPLICATION SLAVE
、SELECT
、SHOW VIEW
、PROCESS
,获取权限的方式如下:GRANT RELOAD, LOCK TABLES, REPLICATION CLIENT, REPLICATION SLAVE, SELECT, SHOW VIEW, PROCESSON *.* TO '迁移账号'@'%'IDENTIFIED BY '迁移密码';GRANT ALL PRIVILEGES ON `__tencentdb__`.* TO '迁移账号'@'%';FLUSH PRIVILEGES;
需要在目标端 TDSQL PostgreSQL 版实例中创建迁移账号,需要的账号权限包括:
DELETE
、TRUNCATE
、INSERT
、REFERENCES
、SELECT
、UPDATE
、TRIGGER
,获取权限的方式如下:GRANT DELETE, TRUNCATE, INSERT, REFERENCES, SELECT, UPDATE, TRIGGERON ALL TABLES IN SCHEMA schema_name TO user_name(迁移账号);
注意事项
MySQL 中的 schema 与 database 概念的意义相同,均对应于 TDSQL PostgreSQL 版中的 schema,TDSQL PostgreSQL 版的目标 database 在配置同步任务时须要指定。
建议启动同步功能之前对目标实例进行备份,避免同步过程失败引起的数据残留。
DTS 在执行全量数据迁移时,会占用一定源端实例资源,可能会导致源实例负载上升,增加数据库自身压力。如果您的数据库配置过低,建议您在业务低峰期进行迁移。
云数据库 MySQL 需要同步的表必须具有主键。
全量迁移过程通过有锁迁移来实现,锁表过程中会短暂(秒级)阻塞写入操作。
数据同步时,DTS 会使用执行同步任务的账号在源库中写入系统库
__tencentdb__
,用于记录同步任务过程中的数据对比信息。为保证后续数据对比问题可定位,同步任务结束后不会删除源库中的
__tencentdb__
。__tencentdb__
系统库占用空间非常小,约为源库存储空间的千分之一到万分之一(例如源库为50GB,则__tencentdb__
系统库约为5MB - 50MB),并且采用单线程,等待连接机制,所以对源库的性能几乎无影响,也不会抢占资源。应用限制
目前应用仅支持数据同步,在进行同步之前,您需要创建对应的模式、表和视图。
当前仅支持源端数据库同步表的 DML 操作, 不支持 DDL 相关操作。
操作限制
同步过程中请勿进行如下操作,否则会导致数据同步任务失败。
请勿修改、删除源数据库和目标数据库中用户信息(包括用户名、密码和权限)和端口号。
请勿在源库写入 Binlog 格式为 Statement 的数据。
请勿在源库上执行清除 Binlog 的操作。
支持的 SQL 操作
操作类型 | 支持同步的 SQL 操作 |
DML | INSERT、UPDATE、DELETE、REPLACE |
DDL | 暂不支持 DDL 相关操作 |
环境要求
类型 | 环境要求 |
源数据库要求 | 源库和目标库网络能够连通。 源库所在的服务器须具备足够的出口带宽,否则将影响迁移速率。 源库中需要同步的表必须具有主键。 源库编码是 utf8 或 utf8mb4 编码。 实例参数要求: 参数 innodb_stats_on_metadata 须置为 OFF。 参数 lower_case_table_names 须置为0。 参数 connect_timeout 须大于10。 建议将参数 skip-name-resolve 置为 ON,减少连接超时的可能性。 Binlog 参数要求: 参数 log_bin 须置为 ON。 参数 binlog_format 须置为 ROW。 参数 binlog_row_image 须置为 FULL。 MySQL 5.6 及以上版本源库参数 gtid_mode 不为 ON 时会出现 WARNING 提示,建议将参数 gtid_mode 置为 ON。 不允许设置 do_db, ignore_db 过滤条件。 源实例为从库时,参数 log_slave_updates 须置为 ON。 建议源库 Binlog 日志至少保留3天及以上,否则可能会因任务暂停/中断时间大于 Binlog 日志保留时间,造成任务无法续传,进而导致任务失败。 外键依赖: 外键依赖只能是 no action 和 restrict 两种类型。 部分库表迁移时,有外键依赖的表必须齐全。 DTS 对数据类型为 FLOAT 的迁移浮点精度为38位,对数据类型为 DOUBLE 的迁移浮点精度为308位,需要确认是否符合预期。 |
目标数据库要求 | 目标库编码是 utf8 编码。 目标库的空间大小须是源库待同步库表空间的1.2倍以上(全量数据同步会并发执行 INSERT 操作,导致目标数据库的表产生碎片,因此全量同步完成后目标数据库的表存储空间很可能会比源实例的表存储空间大)。 目标数据库中的模式(schema)和表(table)须提前创建。 源数据库与目标数据库中的表的字段名称须一一对应,任何一端的表缺少字段都会报错。 源数据库中如果有 zerofill 属性的字段,会通过 WARNING 提示同步完成后目标数据库中对应的字段丢失前置0。 |
操作步骤
1. 登录 数据同步购买页,选择相应配置,单击立即购买。
计费模式:支持“包年包月”和“按量计费”模式。
源实例类型:目前仅支持 MySQL。
源实例地域:选择后不支持再次修改,请选择源实例所在的地域。
目标实例类型:支持 TDSQL PostgreSQL 版。
目标实例地域:选择后不支持再次修改,请选择目标实例所在的地域。
规格:目前只支持标准版。
2. 确认弹出对话框中的信息,确认无误后,单击立即购买,返回数据同步列表,可看到刚创建的数据同步任务,刚创建的同步任务需要进行配置后才可以使用。
![](https://qcloudimg.tencent-cloud.cn/image/document/e2baebf9e740a6d072877d4a2fdcde26.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/e2baebf9e740a6d072877d4a2fdcde26.png)
3. 在 数据同步列表,单击操作列的配置,进入配置同步任务页面。
4. 在配置同步任务页面,配置源端实例、账号及密码,配置目标端实例、账号及密码,测试连通性后,单击下一步。
任务名称:DTS 会自动生成一个任务名称,用户可以根据实际情况进行设置。
运行模式:支持立即执行和定时执行。
源实例类型:选择的云数据库实例类型,不可修改。
源实例地域:选择的云数据库实例所在地域,不可修改。
接入类型:目前支持云数据库。
实例 ID:选择源实例 ID。
源实例数据库账号和密码:填入实际 数据库账号和密码,并单击测试连通性。
目标实例类型:选择的目标实例类型,不可修改。
目标实例地域:选择的目标实例所在地域,不可修改。
接入类型:目前支持云数据库。
实例 ID:选择目标实例 ID。
数据库名称:同步到 TDSQL PostgreSQL版 所在的数据库名称。
目标实例数据库账号和密码:填入实际 数据库账号和密码,并单击测试连通性。
![](https://qcloudimg.tencent-cloud.cn/image/document/e76423f7562f9e88c1fa4c2e0a791033.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/e76423f7562f9e88c1fa4c2e0a791033.png)
5. 在设置同步选项和同步对象页面,选择相应配置,单击保存并下一步。
初始化类型:目前只支持全量数据初始化。
表内有数据:提供全量同步阶段的冲突处理机制,支持前置校验并报错和继续执行若冲突报错两种策略。
前置校验并报错:如果目标端同名表内有数据则直接报错。
继续执行若冲突报错:导入数据与目标端同名表中数据冲突时报错。
冲突处理机制:提供增量同步阶段的冲突处理机制,支持冲突报错、冲突忽略、冲突覆盖三种机制。
冲突报错:在同步时发现表主键冲突,报错并暂停数据同步。
冲突忽略:在同步时发现表主键冲突,保留原主键记录,继续后续数据同步。
冲突覆盖:在同步时发现表主键冲突,使用新记录覆盖原主键记录。
同步操作类型:目前只支持 DML 操作。
同步对象:在源库中选择待同步的表对象。
说明:
如果用户在同步过程中确定会使用 gh-ost、pt-osc 等工具对某张表做 Online DDL,则同步对象需要选择这个表所在的整个库(或者整个实例),不能仅选择这个表,否则无法同步 Online DDL 变更产生的临时表数据到目标数据库。
如果用户在同步过程中确定会对某张表使用 rename 操作(例如将 table A rename 为 table B),则同步对象需要选择 table A 所在的整个库(或者整个实例),不能仅选择 table A,否则系统会报错。
![](https://qcloudimg.tencent-cloud.cn/image/document/3a69cc638463c6706d2853062fd32c0c.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/3a69cc638463c6706d2853062fd32c0c.png)
6. 在校验任务页面,完成校验并全部校验项通过后,单击启动任务。
如果校验任务不通过,可以参考 校验不通过处理方法 修复问题后重新发起校验任务。
失败:表示校验项检查未通过,任务阻断,需要修复问题后重新执行校验任务。
警告:表示检验项检查不完全符合要求,可以继续任务,但对业务有一定的影响,用户需要根据提示自行评估是忽略警告项还是修复问题再继续。
![](https://qcloudimg.tencent-cloud.cn/image/document/b12a0ef5d68855f294e96068f85e097c.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/b12a0ef5d68855f294e96068f85e097c.png)
7. 返回数据同步任务列表,任务开始进入运行中状态。
说明:
停止任务,则直接关闭任务,请您确保数据同步完成后再关闭任务。
![](https://qcloudimg.tencent-cloud.cn/image/document/f6e64b9bcd6ef55631afd6c39c123d5b.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/f6e64b9bcd6ef55631afd6c39c123d5b.png)
8. (可选)您可以单击任务名,进入任务详情页,查看任务初始化状态和监控数据。
![](https://qcloudimg.tencent-cloud.cn/image/document/ec9bb952b1d820c8e7bd44df48410276.png)
![](https://qcloudimg.tencent-cloud.cn/image/document/ec9bb952b1d820c8e7bd44df48410276.png)