首页
学习
活动
专区
圈层
工具
发布

MYSQL 查询优化之路-之DISTINCT全表扫描

背景:今天对一个20w的表做关联查询,创建各种索引,没有提高执行的效率,使用EXPLAIN检查,总是提示“Using temporary”全表扫描,这不是我想的。...通过度娘,各种百度,是因为DISTINCT使用了全表扫描,现在特别记录下来。以背查验。...1.使用explain语法,对SQL进行解释,根据其结果进行调优: MySQL 表关联的算法是 Nest Loop Join,是通过驱动表的结果集作为循环基础数据,然后一条一条地通过该结果集中的数据作为过滤条件到下一个表中查询数据...[驱动表] 的定义为:1)指定了联接条件时,满足查询条件的记录行数少的表为[驱动表];2)未指定联接条件时,行数少的表为[驱动表](Important!)。...如果还有第三个参与Join,则再通过前两个表的Join结果集作为循环基础数据,再一次通过循环查询条件到第三个表中查询数据,如此往复 2.两表JOIN优化: a.当无order by条件时

4.9K42

MySQL -- 全表扫描

的数据是保存在主键索引上,全表扫描实际上是直接扫描表t的主键索引 获取一行,写到 net_buffer 中,默认为 16K ,控制参数为 net_buffer_length 重复获取行,直到 写满 net_buffer...mysql_store_result net_buffer_length Sending data State切换 MySQL的 查询语句 在进入 执行阶段 后,首先把State设置为 Sending...State2,有一个读请求访问P3,P3被移动到链表的最前面 State3,要访问的数据页不在链表中,所以需要在 Buffer Pool 中新申请一个数据页Px,加到链表头部 Buffer Pool 冷数据全表扫描...扫描一个200G的表,该表为历史数据表,平时没有什么业务访问它 按照基本LRU算法,就会把当前Buffer Pool里面的数据 全部淘汰 ,存入扫描过程中访问到的数据页 此时,对外提供业务服务的库来说...每次被访问的时候都需要做以下判断 如果这个数据页在LRU链表中 存在的时间 超过了1S,就把它移动到链表头部,否则,位置不变 存在时间的值由参数 innodb_old_blocks_time 控制 该策略是为了处理类似 全表扫描

3.4K40
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    MySQL查询优化:索引+SQL改写,告别全表扫描提升80%

    引言MySQL作为当前最流行的关系型数据库,被广泛应用于各类系统中,但很多开发者在编写SQL语句时,往往忽视索引的重要性和SQL写法的规范性,导致查询出现全表扫描,尤其是在数据量达到百万级、千万级时,全表扫描会导致接口响应延迟飙升...本文结合真实的电商订单表优化案例,拆解MySQL索引的核心原理、索引失效场景、SQL改写技巧,帮助开发者告别全表扫描,实现查询速度提升80%以上,同时降低数据库负载。...核心技术分析MySQL查询优化的核心是“让查询命中索引,避免全表扫描”,核心优化方向围绕索引和SQL写法展开。...且or前后的字段有一个未建立索引,导致全表扫描。...SQL改写的核心技巧有4种:一是用IN替代OR,避免全表扫描;二是用范围查询替代函数操作,避免索引失效;三是避免select*,只查询需要的字段,减少数据传输和回表开销;四是分页查询优化,避免limitoffset

    69910

    MySQL中的全表扫描案例

    MySQL中的全表扫描案例 这两天看到了两种可能会导致全表扫描的sql,这里给大家看一下,希望可以避免踩坑: 情况1: 强制类型转换的情况下,不会使用索引,会走全表扫描。...情况2: 反向查询不能使用索引,会导致全表扫描。...=作为条件的时候,扫描的行数是表的总记录行数。因此如果想要使用索引,我们就不能使用反向匹配规则。 情况3: 某些or值条件可能导致全表扫描。...,而使用or将二者连接起来就会导致扫描全表而不使用索引。...简单总结一下: 1.强制类型转换的情况下,不会使用索引,会走全表扫描 2.反向查询不能使用索引,会导致全表扫描。 3.某些or值条件可能导致全表扫描。

    3.6K20

    MySQL 全表扫描成本计算

    查询优化器是 MySQL 的核心子系统之一,成本计算又是查询优化器的核心逻辑。 全表扫描成本作为参照物,用于和表的其它访问方式的成本做对比。...任何一种访问方式,只要成本超过了全表扫描成本,就不会被使用。 基于全表扫描成本的重要地位,要讲清楚 MySQL 的成本计算逻辑,从全表扫描成本计算开始是个不错的选择。...全表扫描的成本就只剩 IO 成本、CPU 成本这两项了。 2. 计算公式 我们先从整体计算公式开始,然后逐步拆解。 全表扫描成本 = io_cost + 1.1 + cpu_cost + 1。...总结 计算全表扫描成本,最重要的无疑是这个公式:全表扫描成本 = io_cost + 1.1 + cpu_cost + 1。...io_cost 表示全表扫描 IO 成本,MySQL 会先计算读取一个数据页的平均成本,然后乘以主键索引的数据页数量,得到 IO 成本。

    1.5K10

    用AI工具优化SQL查询:从全表扫描到索引扫描的实战

    通过监控系统,我发现问题出在MySQL的全表扫描上。...=12345ANDstatus='completed'即使user_id和status字段都有独立索引,MySQL优化器有时仍会选择全表扫描而不是使用索引,特别是在查询条件的选择性不够高时。...1200ms35ms34倍扫描行数全表(1.2M)15行8万倍排序方式filesort索引排序消除临时表深入思考:为什么AI工具的建议有效?...,无需回表查询排序优化:索引本身是有序的,避免了filesort操作扩展应用:在ORM框架中的实践在我们的Java应用中,使用的是MyBatis框架。...避免盲目尝试科学建议:基于数据分析和算法模型,提供最优解决方案效率提升:大幅减少人工分析和试错的时间成本未来,我计划将SQLAdvisor集成到CI/CD流程中,在代码审查阶段自动检测潜在的性能问题,从源头上避免全表扫描的问题

    74910

    索引 vs 全表扫描

    索引是数据库的重要技术,本质是用空间换时间,或者放慢写入加速查询。通常我们会将索引和全表扫描来对比,并且一般都会觉得全表扫描很 low,真的是这样吗? 之前我们介绍了第一个文件格式:什么是文件格式?...在这个文件格式里,数据没有排序,顺序存储,我们只提供了查询所有数据的接口,当我们想进行值过滤时,比如查询大于10的数据,需要将所有数据遍历一遍,如果把这个文件看做一个只有一列的表,这种查询方式就叫全表扫描...查询流程 查询模式:查询有过滤条件,假设过滤条件的选择度为 F,意思是查询结果集占总数据量的 F 倍,F 处于 [0,1] 之间。 现在有两种查询方式:全表扫描、索引。全表扫描和索引都是逻辑概念。...黄色表示需要从磁盘读到内存中的数据,全表扫描时候就是这样: ?...如果结果集比较多,seek过多,那么全表扫描是更优的。

    1.6K10

    大型MySQL查询优化实战:从全表扫描到毫秒级响应的通用索引设计

    大型MySQL查询优化实战:从全表扫描到毫秒级响应的通用索引设计 在企业级业务系统中,大表慢查询是性能优化的高频场景。...第一步:分析执行计划,定位性能瓶颈 通过EXPLAIN命令分析原始查询的执行计划,发现了典型的慢查询特征: 两张表均出现全表扫描(type = ALL),未利用任何索引。...op_type(中间列):用于关联操作定义表的JOIN条件,在缩小的范围内进一步筛选。 id(最后列):用于关联设备绑定表的JOIN条件,同时实现索引覆盖扫描(无需回表查询原始数据)。 2....= op_def.op_type,避免对操作定义表的全表扫描。...覆盖索引优先 尽量让索引包含查询所需的所有字段,避免回表操作(减少磁盘I/O)。 匹配查询模式 索引字段需与WHERE、JOIN条件的逻辑顺序完全对齐。

    78810

    MySQL 分表查询

    分表是一种数据库分割技术,用于将大表拆分成多个小表,以提高数据库的性能和可管理性。在MySQL中,可以使用多种方法进行分表,例如基于范围、哈希或列表等。...下面将详细介绍MySQL如何分表以及分表后如何进行数据查询。 基于哈希的分表 基于哈希的分表是一种将数据分散到多个子表中的数据库分表策略。这种方法通过计算数据的哈希值来决定数据应该存储在哪个子表中。...基于哈希的分表可以帮助平均分布数据,提高查询性能,并减轻单个表的负载。下面是详细介绍如何基于哈希的分表的步骤: 步骤1:创建子表 首先,你需要创建多个子表,每个子表将存储一部分数据。...示例插入数据: -- 计算数据的哈希值(示例使用MySQL的MD5哈希函数) SET @hash = MD5(CONCAT(customer_id, order_date)); -- 根据哈希值决定插入到哪个子表中...•查询路由算法: 查询路由算法应该与数据分布策略一致,以确保正确路由查询。 基于列表的分表 基于列表的分表是一种数据库分表策略,它根据某个列的值将数据分割到不同的子表中。

    5.4K20

    MySQL之单表查询、多表查询

    一、单表查询: 单个表的查询方法及语法顺序需要通过实际例子来熟悉 先将表数据创建下: ? ?...查询数据的条件依据 找到数据形成虚拟表 ②、where约束条件的使用 # 1.查询id大于等于3小于等于6的数据 mysql> select * from emp where id >=...多个表之间的查询一般都是在 表之间存在某种逻辑关联的情况下进行的查询,这种逻辑上的关联其实就是表中某个字段名和另外一个表中的字段名存在一个一一对应的关系或者关联。...: # 就是将一个查询语句的结果用括号括起来当做另一个查询语句的条件去用 # 接着上面的表: mysql> select * from emp; +----+-------+--------+-----...,也可以通过其别名的方式把它作为一张虚拟表去跟其他表做关联查询 额外题: 部门中薪资超过部门平均薪资的员工姓名及薪资 mysql> select t1.name,t1.salary,t1.post,t2

    24.9K30

    高水位线和全表扫描

    高水位线对全表扫描方式有着至关重要的影响。当使用delete 操作 表记录时,高水位线并不会下降,随之导致的是全表扫描的实际开销并没有任何减少。...本文给出高水位线的描述,如何降低高水位线,以及高水 位线对全表扫描的影响。 一、何谓高水位线     如前所述,类似于水库中储水的水位线。只不过在数据库中用于描述段的扩展方式。     ...全表扫描会扫描高水位线之下的所有块,包括空闲数据块(执行了delete操作)。     低高水位线       是在使用ASSM时的一个概念。...二、演示高水位线与全表扫描 SQL> create table t -->创建测试表 2 as 3 select rownum as id, 4 round(dbms_random.normal...19 SQL> set autotrace traceonly; -->开启autotrace SQL> select count(*) from t; -->此时SQL语句的执行计划为全表扫描

    97220

    MySQL SQL 优化:从全表扫描到索引命中的核心指南

    首先我们要明确,SQL优化的核心目标,就是让你的查询语句尽可能命中合适的索引,避免全表扫描。...全表扫描会让MySQL遍历整张表的每一行数据,匹配查询条件,当表的数据量达到百万级以上时,全表扫描的执行开销会呈指数级增长,不仅查询耗时极长,还会占用大量的CPU和IO资源,影响整个数据库的稳定性。...这是绝大多数开发者都会踩的坑,很多人习惯在where条件中的索引列上,使用日期函数、数学运算、类型转换等操作,这会直接导致MySQL无法使用索引,触发全表扫描。...MySQL对索引列进行隐式类型转换,直接触发索引失效和全表扫描。...我们对生产环境中100+条优化前后的SQL进行了性能测试,测试环境为MySQL8.0、8核16G腾讯云MySQL实例,表数据量从百万级到亿级,最终测试结果非常明确:优化前触发全表扫描的SQL,平均执行耗时为

    54810

    【MySQL】表的基本查询

    ', 75, 65, 30); Query OK, 7 rows affected (0.00 sec) Records: 7 Duplicates: 0 Warnings: 0 SELECT列 全列查询...通常情况下不建议使用 * 进行全列查询 查询的列越多,意味着需要传输的数据量越大 可能会影响到索引的使用 SELECT * FROM exam_result; 指定列查询 指定列的顺序不需要按定义表的顺序来...LIMIT n OFFSET s; 注意:对未知表进行查询时,最好加一条 LIMIT 1,避免因为表中数据过大,查询全表数据导致数据库卡死 按 id 进行分页,每页 3 条记录,分别显示 第 1、2、3...删除孙悟空同学的考试成绩 DELETE FROM exam_result WHERE name = '孙悟空'; 此时查询不到: 删除整张表数据 注意:删除整张表慎用 DELETE FROM for_delete...; 截断表 基本语法 TRUNCATE [TABLE] table_name 只能对整表操作,不能像 DELETE 一样针对部分数据操作; 实际上 MySQL 不对数据操作,所以比 DELETE 更快,

    3.1K10

    mysql分表+分页查询

    背景 我们都知道,数据量大了,都要对数据库进行分库分表。奈何一直对分表及分表查询没什么概念,这里先不讲那么多概念,先直接演示一个demo。我们直接上车,请坐稳扶好。...where id%2=0; insert into tb_member2(id,name,age) select id,name,age from tb_member where id%2=1; 分页查询...接下来,我们需要考虑的是一张tb_member表被拆分成2张表,那分页如何实现呢?...其实tb_member_all表里面是没有存储数据,它就是一个外壳,里面的数据是tb_member1,tb_member2的并集,数据的存储是放在分表中;做数据查询的时候,就直接用tb_member_all...查询数据 SELECT * FROM tb_member_all order by id LIMIT 10 OFFSET 10; 删除数据 delete from tb_member_all where

    3.2K30
    领券