首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

group by 慢查询优化

一、问题背景 现网出现慢查询,在500万数量级的情况下,单表查询速度在30多秒,需要对sql进行优化,sql如下: 我在测试环境构造了500万条数据,模拟了这个慢查询。...二、看执行计划 可以看到,group by字段上我是加了索引的,也用到了。 三、优化 说实话,我是不知道该怎么优化的,这玩意还能怎么优化啊!先说下,下面的思路都是没用的。...思路二: where条件太复杂,没索引,导致查询慢,但我给where条件的所有字段加上了组合索引,也还是没用 思路三: 既然group by慢,换distinct试试??...那就是sqlyog的问题了,现在也不清楚sqlyog是不是做什么优化了,这个慢查询的问题还在解决中(我觉得问题可能是出在mysql自身的参数上吧)。...然后果断在现网试了下,强制指定使用idx_end_time索引,结果只要0.19秒!

70020

mysql查询优化方法_MySQL查询优化

:索引没有设计好、SQL 语句没写好、MySQL 选错了索引 ’mysql查询优化 第一步:开启mysql查询日志,通过慢查询日志定位到执行较慢的SQL语句。...第二步:利用explain关键字可以模拟优化器执行SQL查询语句,来分析SQL查询语句。 第三步:通过查询的结果进行优化。...(2)分析优化器中索引的使用情况,要修改语句使得更可能的命中索引。比如使用组合索引的时候符合最左前缀匹配原则。not in,not like都不会走索引,可以优化为in....,使用 system NULL MySQL优化过程中分解语句,执行时甚至不用访问表或索引 从上到下,性能从差到好,一般来说需要保证查询至少达到 range 级别, 最好达到 ref ---- key...MySQL查询中实际使用的索引,若没有使用索引,显示为 NULL 查询中若使用了覆盖索引,则该索引可能出现在 key 列表,不出现在 possible_keys key_len: 表示索引中使用的字节数

14K40
您找到你想要的搜索结果了吗?
是的
没有找到

MySQL索引优化order by与group by

MySQL索引优化order by与group by 案例一 name符合最左前缀法则,但在age处断了,所以只能用到name列,索引长度202,order by也用到了index_union索引...案例八 遇到必须要用大于小于这种情况,可以使用索引覆盖来优化他,注意Extra中的信息,using where 对应的是where条件, using index对应的是name > 'AAA',因为select...利用索引覆盖减少回表 group by本质就是先排序后分组,遵循最左前缀法则。如果分组不需要排序可以加上order by null禁止排序。...单路排序:将所有需要查询的字段放在内存中排序,而双路只会把主键和需要排序的字段 放到内存中排序,最后通过主键id回表查询select所需的字段。

56110

MySQL - order by和 group by 优化初探

Note: Mysql8以上版本有降序索引可以支持该种查询方式。...> MySQL自己内部有一套优化机制,且数据量不同、版本不一样,结果也可能有差异 一般情况下, 联合索引第一个字段用范围不一定会走索引 , 可以采用 覆盖索引进行优化,避免回表带来的性能开销 。...---- group by 优化 group by与order by类似,其实质是先排序后分组,遵照索引创建顺序的最左前缀法则。...对于group by的优化如果不需要排序的可以加上order by null禁止排序。 where高于having,能写在where中的限定条件就不要去having限定了。...---- 小结 MySQL支持两种方式的排序filesort和index,Using index是指MySQL扫描索引本身完成排序 order by满足两种情况会使用Using index A

1.4K20

MySQL查询优化

软件又细分为很多种,在这里我们通过MySQL查询优化从而达到性能的提升。      最近看了一些关于查询优化的书籍,同时也在网上看一些前辈们写的文章。...例如,三列复合索引,仅需要在select、where、group by、order by中,任意一个地方出现一次复合索引最左边列就可以激活使用覆盖索引了。     ...、和group by涉及字段加索引 6、子查询优化   在from中为非相关子查询,可以上拉子查询到父层。...11、博文总结   经过这些天查资料敲代码的学习,了解到了MySQL查询优化并不是简简单单的按照某个公式某个规则就可达到的。...实验是检验标准的唯一标准,经过这几天的测试,得出的结论就是:MySQL查询优化是有大方向,但是想要得出一个万能优化公式那是不可能的,毕竟每一条SQL查询语句的写法、结果着重点、以及表的字段环境都不一样

2K30

MySQL查询优化

可以使用show processlist命令查看当前Mysql在进行的线程,包括线程的状态,是否锁表等,可以实时查看SQL的执行情况,同时对一些锁表进行优化。...数据库优化方向 (1)、根据服务层面:配置mysql性能优化参数 (2)、从系统层面增强mysql的性能:优化数据表结构、字段类型、字段索引、分表,分库、读写分离等等 (3)、从数据库层面增强性能:...优化group by 若查询包括group by,但想要避免排序结果的消耗,可指定group by null。...但若排序字段出现大量重复,不适用这种方式优化MySQL常用技巧 正则表达式的使用 序列 序列说明 ^ 字符串的开始处进行排序 $ 在字符串的末尾处进行匹配 ....优化数据库对象 优化表类型 表需要使用何种数据类型工具应用来判断,虽然考虑字段的长度会有一定的冗余,但是不推荐让很多字段都留有大量的冗余,这样既浪费磁盘的存储空间,同时在应用操作时也浪费物理内存MySQL

1.5K10

MySQL查询优化

可以使用show processlist命令查看当前Mysql在进行的线程,包括线程的状态,是否锁表等,可以实时查看SQL的执行情况,同时对一些锁表进行优化。...数据库优化方向 (1)、根据服务层面:配置mysql性能优化参数 (2)、从系统层面增强mysql的性能:优化数据表结构、字段类型、字段索引、分表,分库、读写分离等等 (3)、从数据库层面增强性能:...优化group by 若查询包括group by,但想要避免排序结果的消耗,可指定group by null。...但若排序字段出现大量重复,不适用这种方式优化MySQL常用技巧 正则表达式的使用 序列 序列说明 ^ 字符串的开始处进行排序 $ 在字符串的末尾处进行匹配 ....优化数据库对象 优化表类型 表需要使用何种数据类型工具应用来判断,虽然考虑字段的长度会有一定的冗余,但是不推荐让很多字段都留有大量的冗余,这样既浪费磁盘的存储空间,同时在应用操作时也浪费物理内存MySQL

1.5K20

mysql查询优化

查询效能极低,并且请求次数过多的话很可能会因为这一个慢sql把你整个系统拖垮,不能正常对外提供服务 ------ 二、带着疑问去优化 其实优化手段从业务层面上看很单一,也就是通过给字段添加索引,相信很多人都听过...sql优化加索引能提高查询效率,但是很少去思考跟索引相关的一些问题,比如 索引什么时候会生效?...等等一系列的问题 ------ 三、mysql优化手段 回表和覆盖索引 回表操作数据准备 create table t1 (id int primary key, k int, s varchar(...也就是说,在这个查询里面,索引 k 已经“覆盖了”我们的查询需求,我们称为覆盖索引。由于覆盖索引可以减少树的搜索次数,显著提升查询性能,所以使用覆盖索引是一个常用的性能优化手段。 联合索引 a....前缀索引影响 1、可能导致查询语句读数据的次数变多使用前缀索引,定义好长度,就可以做到既节省空间,又不用额外增加太多的查询成本。

1.3K10

MySQL 查询优化

写入比较频繁的时候,不能开启MySQL查询缓存,因为在每一次写入的时候不光要写入磁盘还的更新缓存中的数据。 10. 建索引的目的: 1)加快查询速度,使用索引后查询有迹可循。...使用count统计数据量的时候建议使用count()而不是count(列),因为count()MySQL是做了优化的。 16....什么时候开MySQL查询缓存,交易系统(写多、读少)、SQL优化测试,建议关闭查询缓存,论坛文章类系统(写少、读多),建议开启查询缓存。 18. Explain 执行计划只能解释SELECT操作。...查询优化可以考虑让查询走索引,走索引能提升查询速度,索引覆盖是最快的,如下就是让分页走覆盖索引提高查询速度。...换言之,就是要求使用的所有字段,都必须建立索引, 我们建议大家尽量避免使用or 关键字 25. 如果MySQL估计使用全表扫描要比使用索引快,则不使用索引。 26.

3.8K111

MySQL | 使用 limit 优化查询和防止SQL被优化

---- Table of Contents 查询优化1.1 最大值和最小值的优化1.2 优化 limit 分页1.2.1 使用关联查询优化1.2.2 使用范围查询1.2.3 利用唯一自增序列进行查询防止被优化参考...查询优化 1.1 最大值和最小值的优化 对于 MIN() 和 MAX() 查询MySQL优化做的并不是太好,例如 select MIN(id) FROM film where name = '西游记...1.2.1 使用关联查询优化 优化此类查询一个简单的方法就是尽可能地使用索引覆盖扫描,而不是查询所有的列,然后根据需要做一次关联操作再返回所需的列。对于偏移大的时候,这样做的效率提升非常大。...在 MySQL 使用 group by 语句进行查询时,当有多条数据都满足时,会显示第一条数据例如: 假设表 film 数据如下: id name price 1 英雄本色 12 2 哪吒传奇 14 3...会对子查询进行优化,认为子查询中的 order by 可以进行忽略,只要Derived table里不包含如下条件就可以进行优化: UNION clause GROUP BY DISTINCT Aggregation

1.3K20

Mysql常用sql语句(12)- group by 分组查询

测试必备的Mysql常用sql语句系列 https://www.cnblogs.com/poloyy/category/1683347.html 前言 group by 关键字可以根据一个或多个字段对查询结果进行分组...group by 一般都会结合Mysql聚合函数来使用 如果需要指定条件来过滤分组后的结果集,需要结合 关键字;原因:where不能与聚合函数联合使用 having group by 的语法格式 GROUP...group by 单字段分组的栗子 对sex单个字段进行分组查询 select * from yyTest group by sex; ?...知识点 多个字段分组查询时,先按照第一个字段分组,如果第一个字段有相同值,则把分组结果再按第二个字段进行分组,以此类推 如果第一个字段每个值都是唯一的,则不会按照第二个字段再进行分组了,具体原理可看下图...group by + group_concat()的栗子 group_concat()可以将分组后每个组内的值都显示出来 select department,group_concat(username)

1.6K20

Mysql查询语句优化

前言 上一篇文章 《MySQL索引原理机器优化》讲了索引的一些原理以及优化方案,这一次学习对查询优化,毕竟快速的查找到数据才是我们的最终目的....分析查询 想要对一条查询语句进行优化,首先要对其进行分析,MySQL提供了这个机制, 可以通过explain sql 或者desc sql的语法去获取MySQL对某一条语句的执行计划(MySQL优化之后的...确保order by / group by 只根据一个表上的字段进行,这样才有使用索引进行排序分组的可能性....使用hint优化查询 MySQL提供了一些用于我们”提示”MySQL服务器应该怎样进行这个查询,需要注意的是,使用hint很有可能不会给你的程序带来性能上的提升,反而可能是性能下降,因此在使用前请确保自己了解该...* FROM TABLE ...; FORCE INDEX和IGNORE INDEX 这两个hint告诉MySQL查询语句强制使用或者不使用哪个索引.SELECT * FROM TABLE FORCE

5.1K20

MySql查询性能优化

当一行数据被多次使用时可以考虑将数据行缓存起来,避免每次使用都要到MySql查询。 避免使用SELECT *这种方式进行查询,应该只返回需要的列。...优化关联查询MySql中,任何一个查询都可以看成是一个关联查询,即使只有一个表的查询也是如此。...此外,确保任何的GROUP BY和ORDER BY中的表达式只涉及到一个表中的列,这样才能使用索引来优化这个过程。 临时表的概念 上面提到在MySql中,任何一个查询实质上都是一个关联查询。...MySql的临时表是没有任何索引的,在编写复杂的子查询和关联查询的时候需要注意这一点。 临时表也叫派生表。 排序优化 应该尽量让MySql使用索引进行排序。...优化UNION查询 除非确实需要服务器消除重复的行,否则一定要使用UNION ALL。如果没有ALL关键字,MySql会给临时表加上DISTINCT选项,这会导致对整个临时表的数据做唯一性检查。

2K40

Mysql范围查询优化

在《高性能MySQL》里面提及用in这种方式可以有效的替代一定的range查询,提升查询效率,因为在一条索引里面,range字段后面的部分是不生效的(in后面的点查还能生效的,但是order by无效,...使用in这种方式其实MySQL优化器是转化成了n*m种组合方式来进行查询,最终将返回值合并,有点类似union但是更高效。...同时它存在这一些问题: 老版本的MySQL在IN()组合条件过多的时候会发生很多问题。查询优化可能需要花很多时间,并消耗大量内存。...N < eq_range_index_dive_limit 只能使用index dive index dive与index statistics是MySQL优化器对开销代价的估算方法,前者统计速度慢但是能得到精准的值...No DISTINCT, GROUP BY, or ORDER BY clause is present.

2K30

MySQL查询优化之道

大多数查询优化器,包含 MySQL查询优化器,总或多或少地在所有可能的查询评估方案中搜索最佳方案。...对于多表关联查询MySQL 优化器所查询的可能方案数随查询中引用的表的数目成指数增长。 对于小数量的表,这不是一个问题。...02 查询优化的基本思路 不管做项目设计还是产品设计都需要先有思路,才能规避一些问题。 当然 MySQL 查询优化也需要研发或者 DBA 拥有一些思路,唯有思路指导书写,才会更加合理。 1....MySQL使用不等于 (!= or ) 的时候无法使用索引会导致全表扫描。 is null ,is not null 也无法使用索引。...join 语句中 join 条件字段类型不一致的时候 MySQL 无法使用索引。

1.4K40

MySQL——SQL查询优化

查询日志 slow_query_log 启动停止记录慢查询日志,默认不启动 slow_query_log_file 指定慢查询日志的存储路径以及文件,默认情况下保存在MySQL的数据目录中 long_query_time...指定记录慢查询日志SQL执行时间的阈值,默认值为10秒,通常改为0.001秒也就是1毫秒可能比较合适 log_queries_not_using_indexes 是否记录未使用索引的SQL 设置开启慢查询...global slow_query_log=on set global long_query_time=0.001 set global slow_query_log_file='/var/lib/mysql...指定按照那种排序方式输出结果 c: 总次数 t: 总时间 l: 锁的时间 r: 总数据行 at, al, ar : t,l,r 平均数量,例如:at = 总时间/总次数 -t top 指定取前几条作为结果输出 推荐使用...installation.html brew install percona-toolkit pt-query-digest --explain h=127.0.0.1, u=root, p=p@ssWord slow-mysql.log

1.6K40

Mysql语句查询优化

其实对Mysql查询语句进行优化是一件非常有必要的事情。 如何查看当前sql语句的执行效率呢?...EXPLAIN显示了mysql如何使用索引来处理select语句以及连接表。也就是校验sql语句是否使用了索引,以及sql语句的查询效率。...可以为相关的域从where语句中选择一个合适的语句 key: 实际使用的索引。如果为null,则没有使用索引。很少的情况下,mysql会选择优化不足的索引。...在不损失精确性的情况下,长度越短越好 ref:显示索引的哪一列被使用了,如果可能的话,是一个常数 rows:mysql认为必须检查的用来返回请求数据的行数 extra:关于mysql如何解析查询的额外信息...type:ALL 表示全表查询,这在sql查询中是杜绝的。那怎么优化type至少达到ref呢?

4.8K10

mysql查询性能优化

mysql查询过程: 客户端发送查询请求。 服务器检查查询缓存,如果命中缓存,则返回结果,否则,继续执行。 服务器进行sql解析,预处理,再由优化器生成执行计划。...Mysql调用存储引擎API执行优化器生成的执行计划进行查询。 返回结果。 ?...大量扫描返回少量行数的查询优化技巧: 使用索引覆盖扫描:把所有需要的列放到索引中,存储引擎无需回表获取对应的行,直接返回结果。 改变库表结构:增加汇总性表存储,空间换时间,效率。...应用层的哈希关联效率高于mysql的循环嵌套关联。 特殊优化: count(*) 并不是统计所有列,而是是统计行数。...确保任何的GROUP BY和ORDER BY中的表达式只涉及到一个表中的列,这样Mysql才能使用索引来优化过程。 升级Mysql需要检查优化。 5.6之前尽可能使用关联查询代替子查询

1.6K20

Mysql查询日志的使用Mysql优化

如果值设置为ON,则会记录所有没有利用索引的查询(性能优化时开启此项,平时不要开启) 5、使用查询日志示例 cat -n /data/mysql/mysql-slow.log ?...(3)使用 pt-query-digest /data/mysql/mysql-slow.log 查询出来的结果分为三部分 ?...3、子查询优化 通常情况下,需要把子查询优化为join查询,但在优化时要注意关联键是否有一对多的关系,如果有,是可能会出现重复数据的。所以如果存在一对多关系,则应该使用distinct进行限制。...t.id = k.kid; 4、group by 的优化 #待补 5、limit的优化 五、对索引进行优化 1、选择合适的列建立索引 2、索引优化sql的方法 3、索引维护的方法 六、数据库结构优化...1、选择合适的数据类型 2、数据库表的范式化优化 3、数据库表的反范式优化 4、数据库表的垂直拆分 5、数据库表的水平拆分 七、系统配置优化 1、数据库系统配置优化 2、Mysql配置文件优化 3、第三方配置工具使用

93420

扫码

添加站长 进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

    运营活动

    活动名称
    广告关闭
    领券