操作指南

API 文档

大事务复制

最近更新时间:2021-12-10 17:28:25

功能介绍

在 row 模式下,单个语句更新多行的大事务每行生成1个 event,一方面产生大量 binlog,另一方面复制时备库 apply 的时候也比较慢,导致备库复制延迟。
腾讯云内核团队通过对大事务复制场景的分析和优化,开发了该能力,大事务复制优化功能将自动识别大事务,并将 row 模式的 binlog 转化为 statement 格式的 binlog,从而减少 binlog 并提升复制效率。

支持版本

  • 内核版本 MySQL 5.6 20210630 及以上
  • 内核版本 MySQL 5.7 20200630 及以上
  • 内核版本 MySQL 8.0 20200830 及以上

适用场景

  • 该功能主要提升 row 模式下无主键表的大事务回放速度,在确定是由无主键回放慢导致延迟时可以打开。
  • 该功能主要针对 row 模式下存在大事务,出现复制较慢的场景。

性能数据

update 场景复制时间减少85%,insert 场景减少约30%。

使用说明

大事务复制优化功能是基于 SQL 历史执行的统计情况去判断它是否有可能是大事务; 当识别为大事务时并且有可能被优化时,会自动将它的隔离级别提升至 RR(可重复读)的级别,将 binlog 落成 Statement 格式,以达到缩短大事务备库执行的时间。 其中:

  • cdb_optimize_large_trans_binlog 为该功能的开关。
  • cdb_sql_statistics 为 SQL 运行情况进行统计的开关。
  • cdb_optimize_large_trans_binlog_last_affected_rows_threshold 和 cdb_optimize_large_trans_binlog_aver_affected_rows_threshold 共同组成了大事务的阈值条件。
  • cdb_sql_statistics_info_threshold 为内存中保持中的历史统计数据条数。

为了更好的监控事务运行情况,还增加了 information_schema 库下的表 CDB_SQL_STATISTICS 用于查询当前事务的统计情况。

新增参数

名称 状态 类型 默认 说明
cdb_optimize_large_trans_binlog true bool false binlog 大事务优化的开关
cdb_optimize_large_trans_binlog_last_affected_rows_threshold true ulonglong 10000 大事务优化的条件:上次影响行数的阈值
cdb_optimize_large_trans_binlog_aver_affected_rows_threshold true ulonglong 10000 大事务优化的条件:平均影响行数的阈值
cdb_sql_statistics true bool false 是否开始对 SQL 运行情况进行统计的开关
cdb_sql_statistics_info_threshold true ulonglong 10000 CDB_SQL_STATISTICS 的 map 里保存最多的统计的 SQL 个数
说明:

用户目前无法直接修改以上参数的参数值,如需修改可 提交工单 进行修改。

新增 information_schema.CDB_SQL_STATISTICS 表

名称 类型 说明
DIGEST_MD5 MYSQL_TYPE_STRING 该条 SQL 的 digest 换算出来的 MD5
DIGEST_TEXT MYSQL_TYPE_STRING SQL 的 digest 文本格式
SQL_COMMAND MYSQL_TYPE_STRING SQL 命令的类型
FIRST_UPDATE_TIMESTAMP MYSQL_TYPE_DATETIME 该条统计信息第一次产生的时间
LAST_UPDATE_TIMESTAMP MYSQL_TYPE_DATETIME 该条统计息上一次更新的时间
LAST_ACCESS_TIMESTAMP MYSQL_TYPE_DATETIME 该条统计信息上一次被访问的时间
EXECUTE_COUNT MYSQL_TYPE_LONGLONG 这类 SQL 被执行次数
TOTAL_AFFECTED_ROWS MYSQL_TYPE_LONGLONG 总影响的行数
AVER_AFFECTED_ROWS MYSQL_TYPE_LONGLONG 平均影响的行数
LAST_AFFECTED_ROWS MYSQL_TYPE_LONGLONG 上次影响的行数
STMT_BINLOG_FORMAT_IF_POSSIBLE MYSQL_TYPE_STRING 这类 SQL 是否可以落成 statement 格式的 binlog,TRUE 或者 FALSE
目录