浅析ProxySQL用户管理

导读

作者:张锐志(微信号:516160507) 知数堂第10期MySQL学员 欢迎交流、拍砖~

1.表定义与字段说明

表的DDL定义:

CREATE TABLE mysql_users (
    username VARCHAR NOT NULL,   
    #用户名
    password VARCHAR,            
    #密码
    active INT CHECK (active IN (0,1)) NOT NULL DEFAULT 1,    
    #是否启用
    use_ssl INT CHECK (use_ssl IN (0,1)) NOT NULL DEFAULT 0,  
    #是否使用SSL连接
    default_hostgroup INT NOT NULL DEFAULT 0,                 
    #默认查询路由组
    default_schema VARCHAR,                                   
    #默认数据库
    schema_locked INT CHECK (schema_locked IN (0,1)) NOT NULL DEFAULT 0, 
    #限定用户在默认数据库中
    transaction_persistent INT CHECK (transaction_persistent IN (0,1)) NOT NULL DEFAULT 1,           
    #事务路由分配持久性,同一个事务的语句不会被分配到不同的组
    fast_forward INT CHECK (fast_forward IN (0,1)) NOT NULL DEFAULT 0,    
    #快速回收空闲线程
    backend INT CHECK (backend IN (0,1)) NOT NULL DEFAULT 1,             
    #是否为后端数据库的账户
    frontend INT CHECK (frontend IN (0,1)) NOT NULL DEFAULT 1,                                       
    #是否为ProxySQL本身的账户(通过6033端口接入ProxySQL)
    max_connections INT CHECK (max_connections >=0) NOT NULL DEFAULT 10000,                         
    #该用户对ProxysSQL最大连接数
    PRIMARY KEY (username, backend),  
    #主键,后端账户用户名唯一
    UNIQUE (username, frontend))      
    #唯一性约束,前端中用户名唯一

参数的特别说明:

transaction_persistent

对于读写分离特别重要,保证了同一个事务中所有的语句都会路由到同一组示例,防止出现同一个事务中,上下文数据不一致的情况。例如,在不开启这个属性的情况下:

begin;
insert into t1 values(xxxyyyzzz);
select * from t1;   
commit;

很有可能 插入语句被路由到写组,而查询语句被路由到读组(假设写组的示例没有重复出现在读组中)。由于在传统复制情况下(没有开启after sync),事务只有被提交后才会被传输到从库上,就造成一个事务中前后不一致,自己读不到自己的修改的数据的问题。

fast_forward:

看下源码(lib\MySQL_Thread.cpp):

 if (myds->myds_type==MYDS_BACKEND && myds->sess->status!=FAST_FORWARD) {
                    if (mypolls.fds[n].revents) {
                    // this part of the code fixes an important bug
                    // if a connection in use but idle (ex: running a transaction)
                    // get data, immediately destroy the session
                    //
                    // this can happen, for example, with a low wait_timeout and running transaction
                        if (myds->sess->status==WAITING_CLIENT_DATA) {
                            if (myds->myconn->async_state_machine==ASYNC_IDLE) {
                                proxy_warning("Detected broken idle connection on %s:%d\n", myds->myconn->parent->address, myds->myconn->parent->port);
                                myds->destroy_MySQL_Connection_From_Pool(false);
                                myds->sess->set_unhealthy();
                                return false;
                    return true;
                }

                ..............................
                    } else {
                        // if this is a backend with fast_forward, set unhealthy
                        // if this is a backend without fast_forward, do not set unhealthy: it will be handled by client library
                        if (myds->sess->session_fast_forward) { // if fast forward
                            if (myds->myds_type==MYDS_BACKEND) { // and backend
                                myds->sess->set_unhealthy(); // set unhealthy
                            }
                        }
                    }
                }
    return true;
}

例如在开启fast_forward后,一些处于连接状态,但空闲的线程,会被ProxySQL标记为不健康的线程,会被立即结束掉(可能处于节省线程资源的考虑)。这个参数默认是不开启的。

backend 与 frontend:以后的版本中可能有前后端账号分离的操作。

2.用户表维护

让我们先看下和配置有关的库和表

mysql> show databases;
+-----+---------------+-------------------------------------+
| seq | name          | file                                |
+-----+---------------+-------------------------------------+
| 0   | main          |                                     |  #常用库
| 2   | disk          | /var/lib/proxysql/proxysql.db       |  #配置存档库
| 3   | stats         |                                     |  #统计信息库
| 4   | monitor       |                                     |  #监控信息库
| 5   | stats_history | /var/lib/proxysql/proxysql_stats.db |  #统计信息历史库
+-----+---------------+-------------------------------------+

ProxySQL自身共有5个 库,分别为3个保存在内存中的库,和三个保存在磁盘的SQLite库。

我们平时通过6032管理端口登入后,默认就是main库,所有的配置更改都必须在这个库中进行,disk存档库不会直接受到影响。接下来看下

main库中的表:

mysql> show tables from main;
+--------------------------------------------+
| tables                                     |
+--------------------------------------------+
| global_variables                           |    #ProxySQL的基本配置参数,类似与MySQL
| mysql_collations                           |    #配置对MySQL字符集的支持
| mysql_group_replication_hostgroups         |    #MGR相关的表,用于实例的读写组自动分配
| mysql_query_rules                          |    #路由表
| mysql_replication_hostgroups               |    #主从复制相关的表,用于实例的读写组自动分配
| mysql_servers                              |    #存储MySQL实例的信息
| mysql_users                                |    #现阶段存储MySQL用户,当然以后有前后端账号分离的设想
| proxysql_servers                           |    #存储ProxySQL的信息,用于ProxySQL Cluster同步
| runtime_checksums_values                   |    #运行环境的存储校验值
| runtime_global_variables                   |    #
| runtime_mysql_group_replication_hostgroups |    #
| runtime_mysql_query_rules                  |    #
| runtime_mysql_replication_hostgroups       |    #与上面对应,但是运行环境正在使用的配置
| runtime_mysql_servers                      |    #
| runtime_mysql_users                        |    #
| runtime_proxysql_servers                   |    #
| runtime_scheduler                          |    #
| scheduler                                  |    #定时任务表
+--------------------------------------------+

disk库中的表:

mysql> show tables from disk;
+------------------------------------+
| tables                             |
+------------------------------------+
| global_variables                   |#
| mysql_collations                   |#
| mysql_group_replication_hostgroups |#
| mysql_query_rules                  |#
| mysql_replication_hostgroups       |#基本与上面的表相对应
| mysql_replication_hostgroups_v122  |#但是多了两个老版本的表
| mysql_servers                      |#
| mysql_servers_v122                 |#
| mysql_users                        |#
| proxysql_servers                   |#
| scheduler                          |#
+------------------------------------+

不难观察出,9张配置表在不同的情况下出现了三次,分别代表:当前内存中的配置信息,当前正在使用的配置信息,当前磁盘文件中的配置信息。

这就要求我们在配置时按需对三个地方的配置进行分别配置。

如:插入一个新的用户

insert into mysql_users(username,password,active,default_hostgroup) values ('predecessor_beast','114514',1,69)

这条记录只会出现在main库的mysql_users 表中,而运行环境和磁盘上均未发生变化。

从内存加载到运行环境中

LOAD MYSQL USERS TO RUNTIME;

从内存保存到磁盘文件中

SAVE MYSQL USERS TO DISK;

从运行环境下载到内存中

SAVE MYSQL USERS TO MEMORY;

从磁盘文件加载到内存中

LOAD MYSQL USERS TO MEMORY;

配置管理简图

从上到下是SAVE XXX TO XXX;

从下到上是LOAD XXX FROM XXX;

3.明文密码的加密存储

ProxySQL支持明文和哈希加密两种密码保存方式,默认的方式一般都是明文。如下图:

mysql> SELECT username,password FROM mysql_users;
+------------------+-------------------------------------------+
| username         | password                                  |
+------------------+-------------------------------------------+
| proxysql_web     | 123456                                    |
| mgr33061         | 123456                                    |
| mgr33061_backend | 123456                                    |
+------------------+-------------------------------------------+

可以通过两种办法将明文密码加密:

(1)在输入时加密:

由于ProxySQL提供的服务端没有加密函数,需要在MySQL中进行加密后,然后替换掉插入语句中的明文密码。

# 原明文插入语句如下:
# ProxySQL
ProxySQL> insert into mysql_users(username,password,active,default_hostgroup) values ('predecessor_beast','114514',1,69);
# 先到MySQL实例中进行加密
# MySQL
root@localhost 16:53:  [(none)]> select PASSWORD('114514');
+-------------------------------------------+
| PASSWORD('114514')                        |
+-------------------------------------------+
| *D9050F2D99C3DDD8138912B7BDF8F4BACBE3A8E7 |
+-------------------------------------------+
1 row in set, 1 warning (0.00 sec)
# 替换插入语句中的明文密码
ProxySQL> insert into mysql_users(username,password,active,default_hostgroup) values ('predecessor_beast','114514',1,69);

(2)使用admin-hash_passwords特性

在global_variable中开启admin-hash_passwords后,通过将含有明文密码的mysql_users表加载到运行环境中,这时表中的所有明文密码都会被哈希加密后的密码替换,然后再save到memory最后save到disk即可永久加密保存。

ProxySQL> select * from global_variables where variable_name like "%passwords%";
+----------------------+----------------+
| variable_name        | variable_value |
+----------------------+----------------+
| admin-hash_passwords | true           |   #确认开启admin-hash_passwords特性
+----------------------+----------------+
1 row in set (0.00 sec)

# 插入新的用户(明文密码)
ProxySQL> insert into mysql_users(username,password,active,default_hostgroup) values ('predecessor_beast','114514',1,69);
Query OK, 1 row affected (0.00 sec)

# 查看明文密码的用户表
ProxySQL> SELECT username,password FROM mysql_users;
+------------------+-------------------------------------------+
| username         | password                                  |
+------------------+-------------------------------------------+
| proxysql         | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |  #之前已经加密过了
| proxysql_web     | 123456                                    |  #未加密
| mgr33061         | 123456                                    |  #未加密
| mgr33061_backend | 123456                                    |  #未加密
| predecessor_beast| 114514                                    |  #新插入的未加密用户
+------------------+-------------------------------------------+

# 查看运行环境中的用户表
ProxySQL> select username,password from  runtime_mysql_users;
+------------------+-------------------------------------------+
| username         | password                                  |
+------------------+-------------------------------------------+
| proxysql         | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 | #由于前后端账户的原因
| proxysql_web     | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 | #原先单个账户成对出现
| mgr33061         | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| proxysql         | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 | #运行环境中的都是已经加密的
| proxysql_web     | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| mgr33061_backend | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 | #不存在新用户
+------------------+-------------------------------------------+

# 加载到运行环境中
mysql> load mysql users to runtime;
Query OK, 0 rows affected (0.00 sec)

# 从运行环境中下载出来
mysql> save mysql users to memory;
Query OK, 0 rows affected (0.00 sec)
mysql> save mysql users to disk;
Query OK, 0 rows affected (0.00 sec)

# 检查下载出来的用户表
mysql> SELECT username,password FROM mysql_users;
+-------------------+-------------------------------------------+
| username          | password                                  |
+-------------------+-------------------------------------------+
| mgr33061          | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| proxysql          | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| proxysql_web      | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| mgr33061_backend  | *6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9 |
| predecessor_beast | *D9050F2D99C3DDD8138912B7BDF8F4BACBE3A8E7 |
+-------------------+-------------------------------------------+
# 所有明文密码已经被加密,已经加密过的,不会再次加密

原文发布于微信公众号 - 3306pai(pai3306)

原文发表时间:2018-04-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏乐沙弥的世界

基于同一主机配置Oracle 11g Data Guard(logical standby)

      Oracle Data Guard逻辑备库是利用主库的一个备份首先建立一个物理备库,然后再将其转换为逻辑备库。这之后主库将日志传递到备库,备库利用l...

911
来自专栏王硕

原 利用pgpool实现PostgreSQL的高可用

4094
来自专栏杨建荣的学习笔记

关于查看dba_data_files的一个小问题(r7笔记第72天)

今天帮一个朋友看一个pl/sql的问题,他已经钻到一个死胡同里列,可能明眼人一看就知道哪里有问题,但是当局者迷,所以我抽空看了一下这个pl/sql块。 pl/s...

3845
来自专栏乐沙弥的世界

使用pt-table-checksum校验MySQL主从复制

pt-table-checksum是一个基于MySQL数据库主从架构在线数据一致性校验工具。其工作原理在主库上运行, 通过对同步的表在主从段执行checksum...

2372
来自专栏杨建荣的学习笔记

通过ORA错误反思sql语句规范(r4笔记第41天)

今天快下班的时候,有个开发的同事问我一个问题,说他在客户端执行一条sql语句,里面包含子查询,如果单独执行子查询,会报"invalid identifier"...

2523
来自专栏杨建荣的学习笔记

系统级alias vs Oracle ADR功能(r5笔记第35天)

Oracle在11g中推出的新特性ADR,即Automatic Diagnostic Repository 个人理解这个工具就是能够高效的把一些日志文件轻松管理...

3658
来自专栏电光石火

mysql 找回误删表的数据办法

有备份的话很简单,只需要生成一个最近备份的数据 然后用mysqlbinlog找回备份时间点之后的数据 再恢复到现网即可。

21610
来自专栏乐沙弥的世界

Oracle 基于用户管理恢复的处理

Oracle支持多种方式来管理数据文件的备份与恢复来保证数据库的可靠与完整。除了使用RMAN工具以及第三方备份与恢复工具之外,基于

622
来自专栏电光石火

mysql 找回误删表的数据办法

有备份的话很简单,只需要生成一个最近备份的数据 然后用mysqlbinlog找回备份时间点之后的数据 再恢复到现网即可。 要是没有备份 可能就会比较麻...

3756
来自专栏乐沙弥的世界

MySQL read_log_event(): 'Found invalid event in binary log'

    MySQL以简单易用著称,在同一个服务器上可以安装N个不同的版本,方便测试,迁移等等。此外,对于大多数Linux系统,集成了mysql,缺省会被安装。因...

902

扫码关注云+社区

领取腾讯云代金券