MySQL优化思路及框架

MySQL优化框架

1. SQL语句优化
2. 索引优化
3. 数据库结构优化
4. InnoDB表优化
5. MyISAM表优化
6. Memory表优化
7. 理解查询执行计划
8. 缓冲和缓存
9. 锁优化
10. MySQL服务器优化
11. 性能评估
12. MySQL优化内幕

MySQL优化需要在三个不同层次上协调进行:MySQL级别、OS级别和硬件级别。MySQL级别的优化包括表优化、查询优化和MySQL服务器配置优化等,而MySQL的各种数据结构又最终作用于OS直至硬件设备,因此还需要了解每种结构对OS级别的资源的需要并最终导致的CPU和I/O操作等,并在此基础上将CPU及I/O操作需要尽量降低以提升其效率。

一、 数据库层面的优化着眼点

1、是否正确设定了表结构的相关属性,尤其是每个字段的字段类型是否为最佳。同时,是否为特定类型的工作组织使用了合适的表及表字段也将影响系统性能,比如,数据频繁更新的场景应该使用较多的表而每张表有着较少字段的结构,而复杂数据查询或分析的场景应该使用较少的表而每张表较多字段的结构等。 2、是否为高效进行查询创建了合适的索引。 3、是否为每张表选用了合适的存储引擎,并有效利用了选用的存储引擎本身的优势和特性。 4、是否基于存储引擎为表选用了合适的行格式(row format)。例如,压缩表在读写操作中会降低I/O操作需求并占用较少的磁盘空间,InnoDB支持读写应用场景中使用压缩表,但MyISAM仅能在读环境中使用压缩表。 5、是否使用了合适的锁策略,如在并发操作场景中使用共享锁,而对较高优先级的需求使用独占锁等。同时,还应该考虑存储引擎所支持的锁类型。 6、是否为InnoDB的缓冲池、MyISAM的键缓存以及MySQL查询缓存设定了合适大小的内存空间,以便能够存储频繁访问的数据且又不会引起页面换出。

二、 操作系统和硬件级别的优化着眼点:

1、是否为实际的工作负载选定了合适的CPU,如对于CPU密集型的应用场景要使用更快速度的CPU甚至更多数量的CPU,为有着更多查询的场景使用更多的CPU等。基于多核以及超线程(hyperthreading)技术,现代的CPU架构越来越复杂、性能也越来越强了,但MySQL对多CPU架构的并行计算能力的利用仍然是有着不太尽如人意之处,尤其是较老的版本如MySQL 5.1之前的版本甚至无法发挥多CPU的优势。不过,通常需要实现的CPU性能提升目标有两类:低迟延和高吞吐量。低延迟需要更快速度的CPU,因为单个查询只能使用一颗;而需要同时运行许多查询的场景,多CPU更能提供更好的吞吐能力,然而其能否奏效还依赖于实际工作场景,因为MySQL尚不能高效的运行于多CPU,并且其对CPU数量的支持也有着限制。一般来说,较新的版本可以支持16至24颗CPU甚至更多。 2、是否有着合适大小的物理内存,并通过合理的配置平衡内存和磁盘资源,降低甚至避免磁盘I/O。现代的程序设计为提高性能通常都会基于局部性原理使用到缓存技术,这对于频繁操作数据的数据库系统来说尤其如此——有着良好设计的数据库缓存通常比针对通用任务的操作系统的缓存效率更高。缓存可以有效地延迟写入、优化写入,但并能消除写入,并综合考虑存储空间的可扩展性等,为业务选择合理的外部存储设备也是非常重要的工作。 3、是否选择了合适的网络设备并正确地配置了网络对整体系统系统也有着重大影响。延迟和带宽是网络连接的限制性因素,而常见的网络问题如丢包等,即是很小的丢包率也会赞成性能的显著下降。而更重要的还有按需调整系统中关网络方面的设置,以高效处理大量的连接和小查询。 4、是否基于操作系统选择了适用的文件系统。实际测试表明大部分文件系统的性能都非常接近,因此,为了性能而苦选文件系统并不划算。但考虑到文件系统的修复能力,应该使用日志文件系统如ext3、ext4、XFS等。同时,关闭文件系统的某些特性如访问时间和预读行为,并选择合理的磁盘调度器通常都会给性能提升带来帮助。 5、MySQL为响应每个用户连接使用一个单独的线程,再加内部使用的线程、特殊目的线程以及其它任何由存储引擎创建的线程等,MySQL需要对这些大量线程进行有效管理。Linux系统上的NPTL线程库更为轻量级也更有效率。MySQL 5.5引入了线程池插件,但其效用尚不明朗。

三、 使用InnoDB存储引擎最佳实践:

1、基于MySQL查询语句中最常用的字段或字段组合创建主键,如果没有合适的主键也最好使用AUTO_INCRMENT类型的某字段为主键。 2、根据需要考虑使用多表查询,将这些表通过外键建立约束关系。 3、关闭autocommit。 4、使用事务(START TRANSACTION和COMMIT语句)组合相关的修改操作或一个整体的工作单元,当然也不应该创建过大的执行单元。 5、停止使用LOCK TABLES语句,InnoDB可以高效地处理来自多个会话的并发读写请求。如果需要在一系列的行上获取独占访问权限,可以使用SELECT ... FOR UPDATE锁定仅需要更新的行。 6、启用innodb_file_per_table选项,将各表的数据和索引分别进行存放。 7、评估数据和访问模式是否能从InnoDB的表压缩功能中受益(在创建表时使用ROW_FORMAT=COMPRESSED选项),如果可以,则应该启用压缩功能。

四、 SQL语句优化

EXPLAIN语句解析:

id:SELECT语句的标识符,一般为数字,表示对应的SELECT语句在原始语句中的位置。没有子查询或联合的整个查询只有一个SELECT语句,因此其id通常为1。在联合或子查询语句中,内层的SELECT语句通常按它们在原始语句中的次序进行编号。但UNION操作通常最后会有一个id为NULL的行,因为UNION的结果通常保存至临时表中,而MySQL需要到此临时表中取得结果。

select_type: 即SELECT类型,有如下值列表: SIMPLE:简单查询,即没有使用联合或子查询; PRIMARY:UNION的最外围的查询或者最先进行的查询; UNION:相对于PRIMARY,为联合查询的第二个及以后的查询; DEPENDENT UNION:与UNION相同,但其位于联合子查询中(即UNION查询本身是子查询); UNION RESULT:UNION的执行结果; SUBQUERY:非从属子查询,优化器通常认为其只需要运行一次; DEPENDENT SUBQUERY:从属子查询,优化器认为需要为外围的查询的每一行运行一次,如用于IN操作符中的子查询; DERIVED:用于FROM子句的子查询,即派生表查询;

table: 输出信息所关系到的表的表名,也有可能会显示为如下格式: <unionM,N>:id为M和N的查询执行联合查询后的结果; <derivedN>:id为N的查询执行的结果集;

type: MySQL官方手册中解释type的作用为“type of join(联结的类型)”,但其更确切的意思应该是“记录(record)访问类型”,因为其主要目的在于展示MySQL在表中找到所需行的方式。通常有如下所示的记录访问类型: system: 表中仅有一行,是const类型的一种特殊情况; const:表中至多有一个匹配的行,该行仅在查询开始时读取一次,因此,该行此字段中的值可以被优化器看作是个常量(constant);当基于PRIMARY KEY或UNIQUE NOT NULL字段查询,且与某常量进行等值比较时其类型就为const,其执行速度非常快; eq_ref:类似于const,表中至多有一个匹配的行,但比较的数值不是某常量,而是来自于其它表;ed_ref出现在PRIMARY KEY或UNIQUE NOT NULL类型的索引完全用于联结操作中进行等值(=)比较时;这是除了system和const之外最好的访问类型; ref:查询时的索引类型不是PRIMARY KEY或UNIQUE NOT NULL导致匹配到的行可能不惟一,或者仅能用到索引的左前缀而非全部时的访问类型;ref可被用于基于索引的字段进行=或<=>操作; fulltext:用于FULLTEXT索引中用纯文本匹配的方法来检索记录。 ref_or_null:类似于ref,但可以额外搜索NULL值; index_merge:使用“索引合并优化”的记录访问类型,相应地,其key字段(EXPLAIN的输出结果)中会出现用到的多个索引,key_len字段中会出现被使用索引的最长长度列表;将多个“范围扫描(range scan)”获取到的行进行合并成一个结果集的操作即索引合并(index merge)。 unique_subquery:用于IN比较操作符中的子查询中进行的“键值惟一”的访问类型场景中,如 value IN (SELECT primary_key FROM single_table WHERE some_expr); index_subquery:类似于unique_subquery,但子查询中键值不惟一; range:带有范围限制的索引扫描,而非全索引扫描,它开始于索引里的某一点,返回匹配那个值的范围的行;相应地,其key字段(EXPLAIN的输出结果)中会输出所用到的索引,key_len字段中会包含用到的索引的最长部分的长度;range通常用于将索引与常量进行=、<>、>、>=、<、<=、IS NULL、<=>、BETWEEN或IN()类的比较操作中; index:同全表扫描(ALL),只不过是按照索引的次序进行而不行的次序;其优点是避免了排序,但是要承担按索引次序读取整个表的开销,这意味着若是按随机次序访问行,代价将非常大; ALL:“全表扫描”的方式查找所需要的行,如果第一张表的查询类型(EXPLAIN的输出结果)为const,其性能可能不算太坏,而第一张表的查询类型为其它结果时,其性能通常会非常差;

Extra: Using where:MySQL服务器将在存储引擎收到数据后进行“后过滤(post-filter)”以限定发送给下张表或客户端的行;如果WHERE条件中使用了索引列,其读取索引时就由存储引擎检查,因此,并非所有带有WHERE子句的查询都会显示“Using where”; Using index:表示所需要的数据从索引就能够全部获取到,从而不再需要从表中查询获取所需要数据,这意味着MySQL将使用覆盖索引;但如果同时还出现了Using where,则表示索引将被用于查找特定的键值; Using index for group-by:类似于Using index,它表示MySQL可仅通过索引中的数据完成GROUP BY或DISTINCT类的查询; Using filesort:表示MySQL会对结果使用一个外部索引排序,而不是从表里按索引次序来读取行;

五、mysql缓存和缓冲

持久性存储 可以缓存 1.缓存表的结构文件,.frm 缓存元数据。 MYISAM: .frm 表结构 .MYI 索引 .MYD 表数据 InnoDB: .frm 表结构 .ibd 表空间 索引,表数据

六、 锁优化:

加锁,读锁,写锁 锁的力度: 表锁 行锁

MYISAM表锁 InnoDB:行锁

如何选择锁的类型?

MySQL服务器优化 缓存 ,查询缓存

物理优化 CPU,内存,磁盘,网络

七、 索引优化

聚集索引 非聚集索引

主索引 辅助索引

稠密索引 稀疏索引

稠密索引: 每一个值的变化都有对应的索引。

稀疏索引: 索引和值的变化不是一一对应关系。

注意:主索引也得是稠密索引 辅助索引可以使用稠密或稀疏索引。

聚集索引必须是稠密索引

多级索引: 为了降低索引查询数据量。 二级索引 但是会产生多次IO

B+树(多级索引) Hash索引 空间索引 全文索引

从根到每一个叶子节点的路径都是等长的。 平衡树索引 Balance Tree

索引:加速查询 索引:降低写入速度

表频繁更新,索引也要更新

插入,删除,更新等性能的影响

hash key-value hash码

age:hash索引 1:hash key(hash)--->value 注意:主键不能使用hash索引

桶: 性能比较,IO少 静态hash 不适合进行数据运算的,做等值查询比较好用。

InnoDB:自适应hash索引

覆盖索引:索引使用方法 students: id,name,age,salary name,age:组合索引 左 查询和搜索键做到索引里。

B树索引的使用场景: 适用全键值,键值范围或键值前缀查找。

name: ling huchong zhang wuji zhang sanfeng chen xuanfeng chen yanzong

select * from where name like 'chen%';

B树局限性: 如果不是从最左前缀开始,索引没用 where name like '%u%' 不能跳过索引中的列。 where name like 'chen%' and salary>3000

存储引擎不能优化访问任何第一个范围条件右边的列。

hash索引: 等值条件比较,只支持使用,IN(),<>进行的条件比较。

缺陷: 无法使用索引排序 不支持部分键匹配

InnoDB:主索引(聚集索引),辅助索引 要用到两次索引

聚集索引 索引和实际数据保存在一起的数据。

索引:指针 索引必须载入内存

非聚集索引:索引和数据不保存在一起。

MYISAM:是非聚集的 InnoDB:是聚集索引

辅助索引是指向主索引的。 一张表只能有一个索引,聚集索引只有一个。 辅助索引是指向索引的,所以要执行两次索引。 什么字段查询最多是

八、 MYISAM的调优参数

key_buffer_size 键缓冲大小 加速查询操作 concurreat_insert 空隙插入 delay_key_write 延时键写入 异步

九、 InnoDB性能参数:

innodb_buffer_pool_size 缓存索引和数据(使用大内存页) innodb_flush_log_at_trx_commit 事务提交 innodb_log_file_size: 事务日志大小

key:value 
select语句的hash码:语句的查询结果:

select name from student where age=30;
select name from student where age=30;
select name student whwere 
尽量使用

query_alloc_block_size 
query_cache_limit 
query_cache_min_res_unit 
query_cache_size bash
query_cache_type 
query_cache_type 
query_cache_type 


explain 
显示语句执行计划:
select_type 

select name from student union select name from tutors;

说明: mysql官方文档中,关于explain的执行计划。

架构师 自动化运维(python) DBA(mysql,Oracle)

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Hongten

python开发_sqlite3_绝对完整_博主推荐

=========================================

914
来自专栏IT技术精选文摘

MySQL-性能优化-索引和查询优化

1211
来自专栏WindCoder

网易MySQL微专业学习笔记(二)-Mysql数据对象

这个系列属于个人学习网易云课堂MySQL数据库工程师微专业的相关课程过程中的笔记,本篇为其“MySQL数据库对象与应用”中的MySQL数据类型相关笔记。

721
来自专栏杨建荣的学习笔记

MySQL和Oracle对比学习之事务(r5笔记第4天)

MySQL中的存储引擎很是丰富,常用的有InnoDB,MyISAM等,也查看了不少的资料,基本也有所了解,从一些参考书中看MySQL中的sql部分也是一扫而过,...

4578
来自专栏小怪聊职场

MySQL(七)|MySQL分库分表的那点事(小怪的Java群第一次话题讨论)

2694
来自专栏aoho求索

MySQL探秘(五):InnoDB锁的类型和状态查询

 锁是数据库系统区分于文件系统的一个关键特性。数据库使用锁来支持对共享资源进行并发访问,提供数据的完整性和一致性。此外,数据库事务的隔离性也是通过锁实现的。In...

1061
来自专栏杨建荣的学习笔记

数据清理的遗留问题处理(二)(r6笔记第91天)

之前尝试了历史数据的清理,在逻辑层面清除了数据,可以参见 http://blog.itpub.net/23718752/viewspace-1814000/ 但...

3045
来自专栏数据和云

循序渐进:Oracle 12c新特性Sharding技术解读

引言 数据库构架设计中主要有 Shared Everthting、Shared Nothing 和 Shared Disk: Shared Everthting...

4577
来自专栏Java后端技术栈

MySQL 清除表空间碎片

(1)表的存储会出现碎片化,每当删除了一行内容,该段空间就会变为空白、被留空,而在一段时间内的大量删除操作,会使这种留空的空间变得比存储列表内容所使用的空间更大...

1004
来自专栏沈唁志

谈谈在SQL语句中的优化技巧

1834

扫码关注云+社区

领取腾讯云代金券