数据库与缓存

数据库与缓存

摘要: 这里讲的缓存是数据库本身的缓存,并不是外部缓存例如Redis/Memcache等等。 数据库的数据分为冷数据和热数据库,通俗的讲冷数据是存储在磁盘上不经常查询的数据;而热数据是频繁查询的数据,这部分数据会被缓存到内存中。

本文节选自《Netkiller Architect 手札》

第 10 章 数据库与缓存

目录

  • 10.1. 什么是数据库缓存?
  • 10.2. 为什么缓存数据呢?
  • 10.3. 什么时候使用数据库缓存
  • 10.4. 涉及缓存的地方有哪些
  • 10.5. 谁来控制数据库缓存
  • 10.6. 怎么控制数据库缓存
    • 10.6.1. SQL_CACHE 缓存
    • 10.6.2. 禁止缓存 SQL_NO_CACHE
    • 10.6.3. 关闭缓存 set session query_cache_type=off

10.1. 什么是数据库缓存?

这里讲的缓存是数据库本身的缓存,并不是外部缓存例如Redis/Memcache等等。

数据库的数据分为冷数据和热数据库,通俗的讲冷数据是存储在磁盘上不经常查询的数据;而热数据是频繁查询的数据,这部分数据会被缓存到内存中。

10.2. 为什么缓存数据呢?

因为频繁查询相同结果集的数据时,每次到磁盘上查找数据是非常耗时的,所以数据库将频繁查询且返回相同结果集的数据放到内存中,可以减少磁盘访问操作。

10.3. 什么时候使用数据库缓存

频繁访问且返回相同结果集的情况下使用缓存。

偶尔查询一次且间隔时间较长的情况下不要使用缓存。

尺寸较大的结果集不建议使用缓存,因为数据太大太大,缓存不足以存储,会导致频繁载入与销毁,命中率低。

通常数据库默认情况是开启缓存的,也就是说正常的select查询,如果符合缓存规则就会经过缓存。

当一条SQL查询时如果结果集在内存中称作“命中”

10.4. 涉及缓存的地方有哪些

数据库本身,查看数据库缓存状态

数据库应用程序接口(ODBC、JDBC......)

10.5. 谁来控制数据库缓存

通常DBA只能控制数据库缓存是否开启,分配多少内存给缓存使用,过期销毁时间,以及策略等等.

上面我已经说过,通常数据库默认都开启缓存,所以更多的时候我们的操作是禁用缓存。这就需要开发人员来通过特定的SQL操作来控制数据库缓存。

10.6. 怎么控制数据库缓存

以 MySQL 为例

mysql> show variables like '%query_cache%'; 
+------------------------------+---------+| Variable_name                | Value   |
+------------------------------+---------+
| have_query_cache             | YES     || query_cache_limit            | 1048576 |
| query_cache_min_res_unit     | 4096    || query_cache_size             | 1048576 |
| query_cache_type             | OFF     || query_cache_wlock_invalidate | OFF     |
+------------------------------+---------+
6 rows in set (0.04 sec)

编辑 my.cnf 文件,加入配置项 query_cache_type=1 然后重启mysql服务

mysql> show variables like '%query_cache%'; 
+------------------------------+---------+| Variable_name                | Value   |
+------------------------------+---------+
| have_query_cache             | YES     || query_cache_limit            | 1048576 |
| query_cache_min_res_unit     | 4096    || query_cache_size             | 1048576 |
| query_cache_type             | ON      || query_cache_wlock_invalidate | OFF     |
+------------------------------+---------+
6 rows in set (0.00 sec)

query_cache_type | ON 表示缓存已经开启。

10.6.1. SQL_CACHE 缓存

默认情况 select 查询操作只要符合数据库缓存规则那么结果集就会被缓存,如果你的数据库没有开启缓存,请参考下面

set session query_cache_type=on;flush tables;show status like 'qcache_q%';select sql_cache * from member where id=1;show status like 'qcache_q%';select sql_cache * from member where id=1;show status like 'qcache_q%';

例 10.1. 演示 SQL_CACHE

mysql> flush tables;
Query OK, 0 rows affected (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

mysql> select sql_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 1     |+-------------------------+-------+1 row in set (0.01 sec)

mysql> select sql_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 1     |+-------------------------+-------+1 row in set (0.01 sec)

我们可以看到 Qcache_queries_in_cache 值由0转为1表示缓存已经生效。

10.6.2. 禁止缓存 SQL_NO_CACHE

这里我们主要讲怎样禁止缓存,使查询出的结果集不进入缓存。

SELECT SQL_NO_CACHE * FROM table where id=xxxx

下面的用法比较安全,切换到其他数据库也能正常工作

SELECT /*!40001 SQL_NO_CACHE */ * FROM table
set session query_cache_type=on;flush tables;show status like 'qcache_q%';select sql_no_cache * from member where id=1;show status like 'qcache_q%';select sql_no_cache * from member where id=1;show status like 'qcache_q%';

例 10.2. 演示 SQL_NO_CACHE

mysql> flush tables;
Query OK, 0 rows affected (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

mysql> select sql_no_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

mysql> select sql_no_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

使用 sql_no_cache 查询 Qcache_queries_in_cache 值始终是 0

10.6.3. 关闭缓存 set session query_cache_type=off

我们使用 set session query_cache_type=off 可以关闭本次查询缓存。

set session query_cache_type=off;flush tables;show status like 'qcache_q%';select sql_cache * from member where id=1;show status like 'qcache_q%';select sql_cache * from member where id=1;show status like 'qcache_q%';

例 10.3. 演示 query_cache_type=off 关闭查询缓存

mysql> set session query_cache_type=off;
Query OK, 0 rows affected (0.00 sec)

mysql> 
mysql> flush tables;
Query OK, 0 rows affected (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

mysql> select sql_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

mysql> select sql_cache * from member where id=1;
+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+| id | age | ctime               | ip_address | mobile | mtime | name | picture | sex  | status | wechat |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+|  1 |   1 | 2017-08-24 17:05:43 | 1          | NULL   | NULL  | 1    | 1       | 1    | Enable | NULL   |+----+-----+---------------------+------------+--------+-------+------+---------+------+--------+--------+1 row in set (0.00 sec)

mysql> show status like 'qcache_q%';
+-------------------------+-------+| Variable_name           | Value |
+-------------------------+-------+
| Qcache_queries_in_cache | 0     |+-------------------------+-------+1 row in set (0.00 sec)

原文发布于微信公众号 - Netkiller(netkiller-ebook)

原文发表时间:2017-09-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据和云

深入原理:Consistent Reads 与 buffer cache

黄玮(Fuyuncat) 资深Oracle DBA,个人网www.HelloDBA.com,致力于数据库底层技术的研究,其作品获得广大同行的高度评价. 编辑手记...

3487
来自专栏Linux运维学习之路

Linux中MySQL配置文件my.cnf参数优化

MySQL参数优化这东西不好好研究还是比较难懂的,其实不光是MySQL,大部分程序的参数优化,是很复杂的。MySQL的参数优化也不例外,对于不同的需求,还有硬件...

3598
来自专栏MessageQueue

RocketMQ事务消息实现分析

这周RocketMQ发布了4.3.0版本,New Feature中最受关注的一点就是支持了事务消息:

1323
来自专栏Jackson0714

【T-SQL进阶】02.理解SQL查询的底层原理

992
来自专栏云数据库

MyDumper原理简介

相对于 MySQL 官方提供的逻辑备份工具 mysqldump,mydumper 最突出的特性就是可采用多线程并行备份,极大提高了数据导出的速度。本文基于 my...

2398
来自专栏性能与架构

MySql 查看Query Cache的状态

query cache 是mysql性能优化时的重要指标,通过查看query cache的状态信息,就可以知道例如 缓存是否有碎片、命中缓存的数量、没用到缓存的...

3427
来自专栏Laoqi's Linux运维专列

MySQL调优

4019
来自专栏数据和云

按图索骥:Oracle数据库无响应故障的处理思路和方法

熊军(老熊) 云和恩墨西区总经理 Oracle ACED,ACOUG核心会员 无响应故障现象分析 ---- Oracle数据库无响应故障,简单地讲就是数据库实例...

2728
来自专栏Java进阶

zookeeper的zab协议工作原理之 崩溃恢复模式

2977
来自专栏安全领域

物联网 MQTT 服务质量级别

原文地址:https://dzone.com/articles/internet-things-mqtt-quality

4827

扫码关注云+社区