首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

记一次神奇的sql查询经历,group by慢查询优化

一、问题背景 现网出现慢查询,在500万数量级的情况下,单表查询速度在30多秒,需要对sql进行优化sql如下: ? 我在测试环境构造了500万条数据,模拟了这个慢查询。...简单来说,就是查询一定条件下,都有哪些用户的。很简单的sql,可以看到,查询耗时为37秒。...二、看执行计划 ? 可以看到,group by字段上我是加了索引的,也用到了。 三、优化 说实话,我是不知道该怎么优化的,这玩意还能怎么优化啊!先说下,下面的思路都是没用的。...哎,现在发现了,只有用sqlyog执行这个“优化后”的sql会是0.8秒,在navcat和服务器上直接执行,都是30多秒。...这里只是记录下这个坑,sqlyog执行sql速度,和服务器执行sql速度,在有的sql中差异巨大,并不可靠。

1.1K20

记一次神奇的SQL查询经历,group by慢查询优化

作者:dijia478 链接:https://www.cnblogs.com/dijia478 一、问题背景 现网出现慢查询,在500万数量级的情况下,单表查询速度在30多秒,需要对sql进行优化sql...二、看执行计划 ? 可以看到,group by字段上我是加了索引的,也用到了。 三、优化 说实话,我是不知道该怎么优化的,这玩意还能怎么优化啊!先说下,下面的思路都是没用的。...哎,现在发现了,只有用sqlyog执行这个“优化后”的sql会是0.8秒,在navcat和服务器上直接执行,都是30多秒。...这里只是记录下这个坑,sqlyog执行sql速度,和服务器执行sql速度,在有的sql中差异巨大,并不可靠。...经过你的提醒,我确实发现,explain执行计划里,索引好像并没有用到我创建的idx_end_time。 然后果断在现网试了下,强制指定使用idx_end_time索引,结果只要0.19秒! ?

1.1K20

深入SQL执行计划之CBO查询转换(4):Group By 配置最优机能(Group By Placement)

之前讲过的转换是当存在 View,子查询时,把子查询展开,或者把谓词下推给子查询。 那是不是说 CBO 只是盯着 View,或子查询来做工作呢,结论当然不是了。...比如2张表进行结合,对其中一个表进行了 Group by 操作时,如果能先进行 Group by 的结果集再和另外的表进行结合的话,可能会有更好的效果。...SQL> select /*+ PLACE_GROUP_BY((t1)) */ sum(t1.c2), t2.c2 from t1,t2 where t1.c1 = t2.c1 group by t2....最后,想要关闭或者无效这个机能可以用以下方法: “_optimizer_group_by_placement”=FALSE。 OR 使用 NO_PLACE_GROUP_BY hint。...至此,CBO 的 SQL 自动转换这总结分享也就告一段落。希望能对各位同学有所帮助。如果能提出您的宝贵意见,那就非常荣幸了。

21820

django执行原始查询sql,返回Dict字典例子

很多时候执行sql语句,数据比django的model来的快,但并不想关心返回的字段,例如你可以执行:select * from product这种sql,这里个方法将会返回与数据库列名相同的键值对 ,...# coding:utf-8 from django.db import connection, transaction '''执行django原始sql语句 返回一个数组对象''' def executeQuery...语句查询返回字典类型数据 在使用django的时候,有些需求需要特别高的查询效率,所以需要使用原生的sql语句查询,但是查询结果一般是一个元组嵌套元组。...[0] == 1 原因是is_sql_auto_is_null_enabled方法使用了重写后的游标,cursor.execute(‘SELECT @@SQL_AUTO_IS_NULL’)返回的结果不是元组...以上这篇django执行原始查询sql,返回Dict字典例子就是小编分享给大家的全部内容了,希望能给大家一个参考。

1.5K20

MySQL | 使用 limit 优化查询和防止SQL优化

---- Table of Contents 查询优化1.1 最大值和最小值的优化1.2 优化 limit 分页1.2.1 使用关联查询优化1.2.2 使用范围查询1.2.3 利用唯一自增序列进行查询防止被优化参考...1.2.1 使用关联查询优化 优化此类查询一个简单的方法就是尽可能地使用索引覆盖扫描,而不是查询所有的列,然后根据需要做一次关联操作再返回所需的列。对于偏移大的时候,这样做的效率提升非常大。...id 即可 防止被优化 在写 SQL 的时候,除了要考虑优化 SQL 降低执行时间外,有时还要防止 SQL 被 MySQL 本身给你优化掉,造成执行结果和你想象的不一样。...西游记 34 4 水浒传 23 5 唐探3 80 6 唐探3 50 则执行SQL select * from film group by name, 则结果为: id name price 1 英雄本色...LIMIT or OFFSET 根据上面说明,我们可以使用 limit 阻止子查询优化,改写后SQL select * from ( select * from film order by id desc

1.3K20

性能优化-通过explain查询分析SQL执行计划

7、通过explain查询分析SQL执行计划 1、使用explain查询SQL执行计划 SQL执行计划侧面反映出了SQL执行效率,具体执行方式如下所示:在执行SQL前面加上explain关键词即可...2、每个字段的说明: 1)、id列数字越大越先执行,如果说数字一样大,那么就从上往下依次执行,id列为null的就表是这是一个结果集,不需要使用它来进行查询。...J:index_merge:表示查询使用了两个以上的索引,最后取交集或者集,常见and ,or的条件使用了不同的索引,官方排序这个在ref_or_null之后,但是实际上由于要读取所个索引,性能可能大部分时间都不如...常见于order by和group by语句中 E:using index:查询时不需要回表查询,直接通过索引就可以获取查询的数据。...:与前面两个对应的类似,只是他们是出现在用and和or查询信息量大时,先查询主键,然后进行排序合并后,才能读取记录返回。

1.4K10

使用use index优化sql查询「建议收藏」

LIMIT 1; 这条sql查询条件显示可能使用的索引有`begintime`和`dg`,但是由于使用了order by begintime排序mysql最后选择使用`begintime`索引,explain...`begintime`索引要扫描22w条记录,这样的查询性能是非常糟糕的,实际的执行情况也是初次执行(还未有缓存数据时)时需要30秒以上的时间。...实际上这个查询使用`dg`联合索引的性能更好,因为同一天同一个小组内也就几十场比赛,因此应该优先使用`dg`索引定位到匹配的数据集合再进行排序,那么如何告诉mysql使用指定索引呢?...`dg`联合索引只需要扫描757条数据,性能直接提升了上百倍,实际的执行情况也是几乎立即就返回了查询结果。...在最初的查询语句中只要把order by begintime去掉,mysql就会使用`dg`索引了,再次印证了order by会影响mysql的索引选择策略!

52510

如何使用查询快速定位执行慢的 SQL

查询可以帮我们找到执行慢的 SQL,在使用前,我们需要先看下慢查询是否已经开启,使用下面这条命令即可: mysql > show variables like '%slow_query_log';...我们可以把慢查询日志打开,注意设置变量值的时候需要使用 global,否则会报错: mysql > set global slow_query_log='ON'; 然后我们再来查看下慢查询日志是否开启...like '%long_query_time%'; 这里如果我们想把时间缩短,比如设置为 3 秒,可以这样设置: mysql > set global long_query_time = 3; 我们可以使用...比如我们想要按照查询时间排序,查看前两条 SQL 语句,这样写即可: 你能看到开启了慢查询日志,设置了相应的慢查询时间阈值之后,只要查询时间大于这个阈值的 SQL 语句都会保存在慢查询日志中,然后我们就可以通过...mysqldumpslow 工具提取想要查找的 SQL 语句了。

2.6K10

如何使用查询快速定位执行慢的 SQL

查询可以帮我们找到执行慢的 SQL,在使用前,我们需要先看下慢查询是否已经开启,使用下面这条命令即可: mysql > show variables like '%slow_query_log';...我们可以把慢查询日志打开,注意设置变量值的时候需要使用 global,否则会报错: mysql > set global slow_query_log='ON'; 然后我们再来查看下慢查询日志是否开启...我们可以使用 MySQL 自带的 mysqldumpslow 工具统计慢查询日志(这个工具是个 Perl 脚本,你需要先安装好 Perl) mysqldumpslow 命令的具体参数如下: -s:采用...比如我们想要按照查询时间排序,查看前两条 SQL 语句,这样写即可: ?...你能看到开启了慢查询日志,设置了相应的慢查询时间阈值之后,只要查询时间大于这个阈值的 SQL 语句都会保存在慢查询日志中,然后我们就可以通过 mysqldumpslow 工具提取想要查找的 SQL 语句了

2.5K20

使用优化器性能视图获取SQL语句执行环境

由此可知,运行环境中每一个环节的参数都对最终的数据库性能或所执行SQL语句有直接的影响。因此在对数据库优化 或调试SQL时,获得当前SQL语句运行环境显得尤为重要。...Oracle 优化器在为SQL语句生成执行计划时,会根据实例级别参数的值来确定,如 optimizer_mode 用于 --确定优化器的模式,optimizer_index_cost_adj用于确定全表扫描与索引扫描之间成本开销的比值等...(视图V$SQL_OPTIMIZER_ENV) --影响SQL语句运行的执行环境受到实例级别以及会话级别之外,最后的,优先级最高的级别即是语句级别。...因此语句级别的设置直接影响最终 --SQL语句执行计划的产生。SQL语句级别的参数设置是通过提示来完成的。 --在下面的例子中,我们通过为同一SQL 语句使用提示来使其运行在不同的环境之中。...-->的设置来生成SQL执行计划执行 ENAME

55220

使用sp_executesql存储过程执行动态SQL查询

sp_executesql存储过程用于在SQL Server中执行动态SQL查询。 动态SQL查询是字符串格式的查询。 在几种情况下,您都可以使用字符串形式SQL查询。...现在您了解了什么是动态SQL,让我们看看如何使用sp_executesql存储过程执行动态SQL查询。...在上面的脚本中,我们声明一个变量@SQL_QUERY使用字符串查询对其进行初始化,该字符串查询从Books表中返回价格大于4,000的id,名称和价格。...接下来,我们通过EXECUTE命令执行sp_executesql存储过程。 若要执行字符串格式的动态SQL查询,只需要将包含查询的字符串传递给sp_executesql查询。...@CONDITION变量包含字符串格式的WHERE子句,而@SQL_QUERY包含SELECT查询。 接下来,将这两个变量连接起来传递给sp_executesql存储过程。

1.8K20

PHP使用mysqli同时执行多条sql查询语句的实例

PHP数据库操作中,mysqli相对于mysql有很大的优势,建议大家使用;之前我们有介绍过如何在PHP5中使用mysqli的prepare操作数据库,使用mysqli更是支持多查询特性,请看下面这段php...语句 $sql = "select id,name from `user`;"; $sql .= "select id,mail from `user`"; if ($mysqli- multi_query...($sql)){//使用multi_query()执行一条或多条sql语句 do{ if ($rs = $mysqli- store_result()){//store_result()方法获取第一条...sql语句查询结果 while ($row=$rs- fetch_row()){ var_dump($row); echo "<br "; } $rs- Close(); //关闭结果集...通过上面的例子,相信大家都可以很容易地明白了,在使用的时候要特别注意的是multi_query()执行多条语句时,语句之间是用 ; 隔开的,否则会出现错误。

3.2K30

SQL执行计划 - 查询转换hint的介绍和使用技巧

index提示 在SQL优化中,除了可以通过修改参数的方式干预优化器工作外,还可以使用提示的方式进行干预,而且这种方式更加精准、不影响其他SQL,故使用场景更加广泛。...创建基础数据和索引,如下: 查看执行计划,如图6-1所示: 图6-1 默认index提示执行计划 可以看到,优化器默认选择索引idx_all进行查询。.../*+ index(table_name index_name) */ 提示: 优化器扫描index提示指定index进行查询,而不会选择最优化的索引,如图6-2所示: 图6-2 index提示指定索引执行计划...可以通过以下步骤index_join提示的使用进行验证: 查询SQL执行计划,如图6-3所示: 图6-3 未使用index_join提示的执行计划 使用index_join 提示后的执行计划,如图6-...使用is not null进行查询转换,执行计划如图6-8所示: 图6-8 使用查询转化后的执行计划 可以看到,当使用is not null进行查询转换后,优化使用索引快速全表扫描代替全表扫描。

1.5K110

mybatis mysql 分页sql语句_使用mybatis分页查询统计总数「建议收藏」

今天在优化项目的时候,偶尔发现了一种分页查询的方法。其目的是,在分页查询的同时查出数据总记录数实现模糊查询功能。并且,在以往的分页查询上,如果要使用模糊查询,则模糊查询出来的总记录数可能出现问题。...使用改方法可以优化代码。...里有两个函数,第一个为多表关联的映射map的Id,第二个则是id为count的resultMap查询总记录数方法 ② 这里使用了两条sql语句。...首页通过默认条件查询数据分页,并且提供模糊查询功能,且查询总记录数方法是在前一条sql语句基础上执行而成 service实现类 ① baseMapper.queryPageByStuId用于调用dao...Cause: java.sql.SQLException: sql injection violation, multi-statement not allow报错原因为:在一个resultMap中执行了多条

2.3K20

1 SQL查询优化1. 获取有性能问题SQL的方法2.慢查询日志介绍3. 实时获取3.SQL的解析预处理及生成执行计划4 对特定SQL查询优化

SQL语句优化查询进行优化,要尽量避免全表扫描。在 where 或 order by 的列上加索引。...实例 3.SQL的解析预处理及生成执行计划 3.1 查询速度为什么会慢 ? MySQL服务器处理查询请求的整个过程 3.2 查询缓存对SQL性能的影响 ?...3.3.1 可能造成MySQL生成错误的执行计划的原因 ? ? ? 3.3.2 MySQL优化器可优化SQL类型 重定义表的关联顺序 ?...但是已经不被推荐使用 3.4.2使用performance_schema(MySQL5.6后默认开启) ? 启动监控项 ? ? 上述执行结果 4 对特定SQL查询优化 ? ?...执行过程 ? 验证表确实被修改 4.2 如何优化not in和查询 ? 下面为优化sql 4.3 使用汇总表优化查询 ? ? 汇总表 ? 显示每个商品评论数

2.3K91
领券