Mycat 读写分离 数据库分库分表 中间件 安装部署,及简单使用

MyCat是一个开源的分布式数据库系统,是一个实现了MySQL协议的服务器,前端用户可以把它看作是一个数据库代理,用MySQL客户端工具和命令行访问,而其后端可以用MySQL原生协议与多个MySQL服务器通信,也可以用JDBC协议与大多数主流数据库服务器通信,其核心功能是分表分库,即将一个大表水平分割为N个小表,存储在后端MySQL服务器里或者其他数据库里。

MyCat发展到目前的版本,已经不是一个单纯的MySQL代理了,它的后端可以支持MySQL、SQL Server、Oracle、DB2、PostgreSQL等主流数据库,也支持MongoDB这种新型NoSQL方式的存储,未来还会支持更多类型的存储。而在最终用户看来,无论是那种存储方式,在MyCat里,都是一个传统的数据库表,支持标准的SQL语句进行数据的操作,这样一来,对前端业务系统来说,可以大幅降低开发难度,提升开发速度

网上很有多相关资源,也可以直接访问Mycat官网。

环境

MySql 主从复制

参考我的另一篇文章-搭建 MySQL 5.7.19 主从复制

在 MySql-Master:192.168.252.121 建库,测试主从复制是否可用

Mycat 安装部署

更好看目录结构,下tree(可选)

安装 JDK

下载Linux环境下的jdk1.8,请去(官网)中下载jdk的安装文件

我在百度云盘分下的链接:http://pan.baidu.com/s/1jIFZF9s 密码:u4n4

上传在 目录

解压

配置环境变量

使环境变量生效

验证

环境变量

设置 MYCAT_HOME 的变量

使环境变量生效

配置 JDK 路径

告诉 Mycat 需要使用哪个 JDK

wrapper.conf jvm调优参数,不合理,需改进

jvm参数调优,以16G内存服务器为例

配置 Mycat

配置文件非常多.如果只是简单配置在不同的服务器上进行读写分离只需要配置两个文件 和

中定义逻辑库,表、分片节点等内容

中定义分片规则

中定义用户以及系统相关变量,如端口等

server.xml

server.xml 几乎保存了所有 mycat 需要的系统配置信息。其在代码内直接的映射类为 System Config 类。

server.xml 中的标签本就不多,这个标签主要用于定义登录 mycat 的用户和权限。

例如上面的例子中,我定义了一个用户,用户名为 root 、密码也为 123456,可访问的 schema 也只有 test_schema 一个 逻辑库。

官方完整的默认配置 server.xml

Mycat 系统配置

schema.xml

schema 标签用于定义 My Cat 实例中的逻辑库,My Cat 可以有多个逻辑库,每个逻辑库都有自己的相关配 置。可以使用 schema 标签来划分这些不同的逻辑库。

如上所示的配置就配置了1个逻辑库,逻辑库的概念和 MYSQL 数据库中 Database 的概念相同,我们在查询这个逻辑库中表的时候需要切换到该逻辑库下才可以查询到所需要的表。

schema 标签

用于定义 My Cat 实例中的逻辑库,My Cat 可以有多个逻辑库,每个逻辑库都有自己的相关配 置。可以使用 schema 标签来划分这些不同的逻辑库。

data Node 属性

该属性用于绑定逻辑库到某个具体的 database 上,1.3 版本如果配置了 data Node,则不可以配置分片表, 1.4 可以配置默认分片,只需要配置需要分片的表即可

data Host 标签

作为 Schema.xml 中最后的一个标签,该标签在 mycat 逻辑库中也是作为最底层的标签存在,直接定义了具体的数据库实例、读写分离配置和心跳语句。现在我们就解析下这个标签。

name 属性

唯一标识 data Host 标签,供上层的标签使用。

max Con 属性

指定每个读写实例连接池的最大连接。也就是说,标签内嵌套的 write Host、read Host 标签都会使用这个属性的值来实例化出连接池的最大连接数。

min Con 属性

指定每个读写实例连接池的最小连接,初始化连接池的大小。

balance 属性

负载均衡类型,目前的取值有 3 种:

1.balance="0", 不开启读写分离机制,所有读操作都发送到当前可用的 write Host 上。

2.balance="1",全部的 read Host 与 stand by write Host 参与 select 语句的负载均衡,简单的说,当双主双从模式(M1->S1,M2->S2,并且 M1 与 M2 互为主备),正常情况下,M2,S1,S2 都参与 select 语句的负载 均衡。

3.balance="2",所有读操作都随机的在 write Host、readhost 上分发。 4.balance="3",所有读请求随机的分发到 wiriter Host 对应的 readhost 执行,writer Host 不负担读压 力,注意 balance=3 只在 1.4 及其以后版本有,1.3 没有。

write Type 属性

负载均衡类型,目前的取值有 3 种:

write Type="0", 所有写操作发送到配置的第一个 write Host,第一个挂了切到还生存的第二个write Host,重新启动后已切换后的为准,切换记录在配置文件中:dnindex.properties .

write Type="1",所有写操作都随机的发送到配置的 write Host,1.5 以后废弃不推荐。

**switch Type 属性

-1 表示不自动切换

1 默认值,自动切换

2 基于 My SQL 主从同步的状态决定是否切换

db Type 属性

指定后端连接的数据库类型,目前支持二进制的 mysql 协议,还有其他使用 JDBC 连接的数据库。例如:mongodb、oracle、spark 等。

db Driver 属性

指定连接后端数据库使用的 Driver,目前可选的值有 native 和 JDBC。使用 native 的话,因为这个值执行的是二进制的 mysql 协议,所以可以使用 mysql 和 maridb。其他类型的数据库则需要使用 JDBC 驱动来支持。

从 1.6 版本开始支持 postgresql 的 native 原始协议。

switch Type 属性

-1 表示不自动切换

1 默认值,自动切换

2 基于 My SQL 主从同步的状态决定是否切换 心跳语句为 show slave status

3 基于 My SQL galary cluster 的切换机制(适合集群)(1.4.1) 心跳语句为 show status like ‘wsrep%’.

temp Read Host Available 属性

如果配置了这个属性 write Host 下面的 read Host 仍旧可用,默认 0 可配置(0、1)

rule.xml

rule.xml 里面就定义了我们对表进行拆分所涉及到的规则定义。我们可以灵活的对表使用不同的分片算法,或者对表使用相同的算法但具体的参数不同。这个文件里面主要有 table Rule 和 function 这两个标签。在具体使用过程中可以按照需求添加 table Rule 和 function。

这个标签定义表规则。 定义的表规则,在 schema.xml:

tableRule name="sharding-by-date"

启动 Mycat

查看日志

启动 mycat 的日志

访问 mycat 的日志

使用 Mycat

登录 Mycat 切换到 test_schema 逻辑库

创建库/表

只需要在 Mycat 服务器执行以下脚本,就会自动同步到 MySql-Master:192.168.252.121 MySql-Slave:192.168.252.122

登录 Mycat 管理端

RS_CODE 为 1 表示心跳正常,--查看读写分离的机器配置情况

测试分片按日期(天)分片

登录 Mycat 管理端

RS_CODE 为 1 表示心跳正常,--查看读写分离的机器配置情况

配置按日期(天)分片,2017-11-15,2017-11-16,2017-11-17 ,一天一个分片,执行完一下的 sql 可以发现数据 ,会按照分片规则进入不同的,分片,数据库

rule.xml

name 属性指定唯一的名字,用于标识不同的表规则。

内嵌的 rule 标签则指定对物理表中的哪一列进行拆分和使用什么路由算法。

columns 内指定要拆分的列名字。

algorithm 使用 function 标签中的 name 属性。连接表规则和具体路由算法。当然,多个表规则可以连接到同一个路由算法上。table 标签内使用。让逻辑表使用这个规则进行分片。

配置说明:

:标识将要分片的表字段

:分片函数

:日期格式

:开始日期

:结束日期

:分区天数,即默认从开始日期算起,分隔 5 天一个分区

schema.xml

登录 Mycat 服务端

在 MySql-Master 执行 ,查看分片是否均匀

自然月分片

在 MySql-Master:192.168.252.121 建库,测试主从复制是否可用

登录 Mycat 管理端

查看分片情况

rule.xml

按月份列分区 ,每个自然月一个分片

配置说明:

columns 分片字段,字符串类型

dateFormat : 日期字符串格式

sBeginDate : 开始日期

schema.xml

登录 Mycat 服务端

只需要在 Mycat 服务器执行以下脚本,就会自动同步到 MySql-Master:192.168.252.121 MySql-Slave:192.168.252.122

在 MySql-Master 执行 ,查看分片是否均匀

注意

启动MyCAT之前,需要先检查一些配置:

Mysql的主从复制是否正常,这个检查我在文章开头,搭建 MySQL 5.7.19 主从复制,文章链接里面有介绍

java的版本需要是1.7或以上;

Mysql的配置文件需要加一行lowercasetable_names = 1在[mysqld]栏目中,这个设置为Mysql大小写不敏感,否则可能会发生表找不到的问题;

在示例的2个数据 MySql-Master 和 MySql-Slave 上,新建3个数据库 testone,testtwo,test_three, 如不新建,可能提示找不到数据库ERROR 3009 (HY000): java.lang.IllegalArgumentException: Invalid DataSource:0(这个提示不够友好,是在运行很长一段时间后才提示);

添加 MYCAT_HOME 环境变量指向解压的mycat目录,主要是为了一些bin目录下的脚本的使用。

Contact

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180113G062JP00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券