前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >扣绩效篇 | 终于踩到了SQL慢查询的坑!

扣绩效篇 | 终于踩到了SQL慢查询的坑!

作者头像
架构师修行之路
发布2021-06-09 17:29:03
6440
发布2021-06-09 17:29:03
举报
文章被收录于专栏:架构师

场景一

step1. 问题发现

将应用发布到生产环境后,前端页面请求后台API返回数据,发现至少需要6s。查看到慢SQL

step2. 复现慢SQL

执行SQL

代码语言:javascript
复制
select count(*) from sync_block_data
where unix_timestamp(sync_dt) >= 1539101010
AND unix_timestamp(sync_dt) <= 1539705810

查看耗时

step3. 优化慢SQL sync_dt的类型为datetime类型。换另外一种sql写法,直接通过比较日期而不是通过时间戳进行比较。将sql中的时间戳转化为日期,分别为2018-10-10 00:03:30和2018-10-17 00:03:30

执行SQL

代码语言:javascript
复制
select count(*) from sync_block_data
where sync_dt >= "2018-10-10 00:03:30"
AND sync_dt <= "2018-10-17 00:03:30"

查看耗时

一共耗时419毫秒,和慢查询相比速度提升六倍多

查看执行计划

代码语言:javascript
复制
explain select count(*) from sync_block_data
where sync_dt >= "2018-10-10 00:03:30"
AND sync_dt <= "2018-10-17 00:03:30"

执行计划结果

访问页面,优化完成后请求时间平均为900毫秒

执行计划中慢查询和快查询唯一的区别就是type不一样:慢查询中type为index,快查询中type为range。

step4. 优化慢SQL

这条sql的业务逻辑为统计出最近七天该表的数据量,可以去掉右边的小于等于 执行SQL

代码语言:javascript
复制
select count(*) from sync_block_data
where sync_dt >= "2018-10-10 00:03:30"

查看耗时

一共耗时275毫秒,又将查询时间减少了一半

查看执行计划

代码语言:javascript
复制
explain select count(*) from sync_block_data
where sync_dt >= "2018-10-10 00:03:30"

执行计划结果

type仍是range。但是通过少比较一次将查询速度提高一倍

step5. 继续优化慢SQL

新建一个bigint类型字段sync_dt_long存储sync_dt的毫秒值,并在sync_dt_long字段上建立索引,测试环境下

优化step3慢查询SQL

代码语言:javascript
复制
select count(*) from copy_sync_block_data
where sync_dt >="2018-10-10 13:15:02"

耗时为34毫秒

优化step4慢查询三SQL

代码语言:javascript
复制
select count(*) from copy_sync_block_data
where sync_dt_long >= 1539148502916

耗时为22毫秒 测试环境中速度提升10毫秒左右

优化慢查询三sql测试小结:在InnoDB存储引擎下,比较bigint的效率高于datetime 完成三步优化以后生产环境中请求耗时:

速度又快了200毫秒左右。通过给查询的数据加10s缓存,响应速度最快平均为20ms

explain使用介绍

通过explain,可以查看sql语句的执行情况(比如查询的表,使用的索引以及mysql在表中找到所需行的方式等)

用explain查询mysql查询计划的输出参数有

重点关注type,type类型的不同竟然导致性能差六倍!!!

type显示的是访问类型,是较为重要的一个指标,结果值从好到坏依次是:system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL ,一般来说,得保证查询至少达到range级别,最好能达到ref。

出现慢查询的原因

在where子句中使用了函数操作 出现慢查询的sql语句中使用了unix_timestamp函数统计出自'1970-01-01 00:00:00'的到当前时间的秒数差。导致索引全扫描统计出近七天的数据量的

解决方案

尽量避免在where子句中对字段进行函数操作,这将导致存储引擎放弃使用索引而进行全表扫描。对于需要计算的值最好通过程序计算好传入而不是在sql语句中做计算,比如这个sql中我们将当前的日期和七天前的日期计算好传入

后记

这个问题当时在测试环境没有发现,测试环境的请求速度还是可以的。没有被发现可以归结为数据量。生产数据量为百万级别,测试环境数据量为万级,数据量差50倍,数据量的增大把慢查询的问题也放大了。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-06-03,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 架构师修行之路 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • step2. 复现慢SQL
  • 执行SQL
  • step3. 优化慢SQL sync_dt的类型为datetime类型。换另外一种sql写法,直接通过比较日期而不是通过时间戳进行比较。将sql中的时间戳转化为日期,分别为2018-10-10 00:03:30和2018-10-17 00:03:30
  • step4. 优化慢SQL
  • step5. 继续优化慢SQL
  • explain使用介绍
  • 出现慢查询的原因
  • 解决方案
  • 后记
相关产品与服务
云数据库 SQL Server
腾讯云数据库 SQL Server (TencentDB for SQL Server)是业界最常用的商用数据库之一,对基于 Windows 架构的应用程序具有完美的支持。TencentDB for SQL Server 拥有微软正版授权,可持续为用户提供最新的功能,避免未授权使用软件的风险。具有即开即用、稳定可靠、安全运行、弹性扩缩等特点。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档