首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

存储优化(3)-mongo索引

摘要 在存储优化(2)-排序引起的慢查询优化中我们提到过排序对查询选择索引的影响。但是的解决办法就是增加一个索引。在线上给mongo的增加一个索引要慎重。...在增加索引的过程中也遇到了一些问题,这边进行相关的记录与分析。 问题描述 结构 _id,biz_Id,version,name 索引 1....":-1},"limit":1}} 增加一个索引 bizId,_id 增加索引过程 对于(该表记录数5亿),建立索引过程涉及到锁,大量的读写操作、数据同步,肯定会影响线上的操作。...那是不是因为这个索引是后来的,plan-cache还没有更新的。...总结 最后解决是通过强制索引来避免索引误判,当然也可以将排序改成 sort({bizId:-1,_id:-1}) 这样也不会误判 总结一下: 索引,需要确保不会block的其他操作,尽量选择空闲时候

2.7K10
您找到你想要的搜索结果了吗?
是的
没有找到

MySQL增加唯一索引场景

《新增字段的一点一滴技巧》 《探寻删除字段慢的原因》 《删除字段为何慢?》 《主键和唯一约束的索引肯定唯一?》...但MySQL中对于字段、索引的使用,就需要些技巧,否则就会碰到坑,这是初学MySQL,比较不太适应的一个点,看到技术社区推的这篇文章《技术分享 | MySQL 添加唯一索引的总结》,就讲到了MySQL...MySQL 5.6 开始支持 Online DDL ,添加[唯一]索引虽然不需要重建,也不阻塞 DML ,但是场景下还是不会直接使用 Alter Table 进行添加,而是使用第三方工具进行操作,...在没有查询的情况下,持锁时间很短,基本可以忽略不计,所以强烈建议改操作时避免出现查询。 由此可见,表记录大小影响着索引的耗时。如果是,将严重影响从库的同步延迟。...gh-ost 可能丢数据,有辅助功能可以避免部分丢数据的场景 适合添加唯一索引 三、添加唯一索引的风险 根据上面的介绍可以得知 gh-ost 是比较适合唯一索引,所以这部分就着重介绍一下 gh-ost

2.6K40

MySQL8.0字段,是真的吗?

前言: 很早就听说 MySQL8.0 支持快速列,可以实现秒级字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速列到底要如何操作。...所以 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...只能顺序列, 仅支持在最后添加列,而不支持在现有列的中间添加列。 不支持压缩,即该行格式不能是 COMPRESSED。 不支持包含全文索引。 不支持临时。...说的再多不如实际来测下,下面我们以 8.0.19 版本为例来实际验证下: # 利用sysbench生成一张1000W的 mysql> select version(); +-----------+...总结: 虽然快速列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了字段的大难题。

2.9K70

MySQL8.0字段,是真的吗?

很早就听说 MySQL8.0 支持快速列,可以实现秒级字段。笔者自己本地也有8.0环境,但一直未进行测试。本篇文章我们就一起来看下 MySQL8.0 快速列到底要如何操作。...所以 DDL 仍是一件令 DBA 头痛的事。 听闻 MySQL 8.0 解决了这件令 DBA 头痛的事,那让我们来详细了解下吧。想了解新功能,最简单的方法就是查阅官方文档。...查阅官方文档得知,快速列即 Instant Add Column ,该功能自 MySQL 8.0.12 版本引入,是由腾讯游戏DBA团队贡献。注意一下,此功能只适用于 InnoDB 。...只能顺序列, 仅支持在最后添加列,而不支持在现有列的中间添加列。 不支持压缩,即该行格式不能是 COMPRESSED。 不支持包含全文索引。 不支持临时。...总结 虽然快速列存在一些限制, instant 算法也只适用于部分 DDL 操作,但 8.0 的这项新功能已经足以令人兴奋,很大程度上解决了字段的大难题。

3.7K20

mysql为什么索引就能快

平时我们要优化 mysql 查询效率的时候,最常见的就是给加上合适的索引了,那今天就来聊聊为什么加了索引就快了呢。...mysql 索引其实就是一颗 B+ 树。...谭小谭,公众号:谭某人mysql索引为啥要选择B+树 (下) 也就是说每个至少都有一个主键索引,而且中所有的数据行都是存放在主键索引这个 B+ 树的叶子节点上的。...刚刚有说过,主键索引叶子节点上保存完整的整行记录值,二级索引叶子节点保存主键的值,所以上面这个 t 的数据在 mysql 底层的存储就如下示意图。 ?...select * from t where k > 3 and k < 6; 这就是为什么加了索引后,mysql 查询会变快的原因了,其实刚提到的这个回过程还可以再优化的,就是利用覆盖索引,后面的文章我们再详细说

2K30

mysql查询索引_MySQL查看表索引

mysql> show index from tblname; mysql> show keys from tblname; · Table 的名称。...· Non_unique 如果索引不能包括重复词,则为0。如果可以,则为1。 · Key_name 索引的名称。 · Seq_in_index 索引中的列序列号,从1开始。...· Collation 列以什么方式存储在索引中。在MySQL中,有值‘A’(升序)或NULL(无分类)。 · Cardinality 索引中唯一值的数目的估计值。...基数根据被存储为整数的统计数据来计数,所以即使对于小型,该值也没有必要是精确的。基数越大,当进行联合时,MySQL使用该索引的机 会就越大。...· Sub_part 如果列只是被部分地编入索引,则为被编入索引的字符的数目。如果整列被编入索引,则为NULL。 · Packed 指示关键字如何被压缩。如果没有被压缩,则为NULL。

6.7K40

MySQL给字符串索引

MySQL是支持前缀索引的,前缀索引的优势就是占用的空间小,这同时带来的损失是,可能会增加额外的记录扫描次数。...比如一些用户,登录账户是邮箱 如果要使用的是邮箱登录,所以代码中一定会有这种类似的语句 select f1, f2 from tableName where email='xxx'; 如果email这个字段上没有索引的话...,那这些语句就只能做全扫描 MySQL 是支持前缀索引的,可以定义字符串的一部分作为索引。...默认地,如果你创建索引的语句不指定前缀长度,那么索引就会包含整个字符串。...有以下2中方式 就是使用倒序存储,比如身份证倒序,查询的时候再用函数转一下 以及使用hash字段,在上创建一个整数字段,来保存身份证的校验码,同时在这个字段上索引 这两种方式对比区别 从占用的额外空间来看

1.3K71

Innodb索引,这个时候会锁吗?

MySQL 5.6 之前,InnoDB 在索引构建期间会对表进行排它锁定,这意味着其他会话无法读取或修改中的数据,从而导致长时间阻塞和性能问题。...在 MySQL 5.6 之前,所有的 ALTER 操作实际上都会阻塞 DML 操作,例如添加或删除字段、添加或删除索引等,都会导致被锁定。...对原共享 MDL 锁,阻止对原的写操作,仅允许查询操作。 逐行将原数据拷贝到临时中,且无需进行排序。 数据拷贝完成后,将原锁升级为排他 MDL 锁,阻止对原的读写操作。...对临时进行重命名操作,并创建索引,完成 DDL 操作。 INPLACE 算法原理 INPLACE 算法是在 MySQL 5.5 中引入的,旨在优化索引的创建和删除过程的效率。...创建索引数据字典。 对原共享 MDL 锁,阻止对原的写操作,只允许查询操作。 根据聚集索引的顺序,查询中的数据,并提取所需的索引列数据。将提取的索引数据进行排序,并插入到新的索引页中。

23810

技术分享 | MySQL 添加唯一索引的总结

MySQL 5.6 开始支持 Online DDL,添加唯一索引虽然不需要重建,也不阻塞DML,但是场景下还是不会直接使用Alter Table进行添加,而是使用第三方工具进行操作,比较常见的就属...在没有查询的情况下,持锁时间很短,基本可以忽略不计,所以强烈建议改操作时避免出现查询。由此可见,表记录大小影响着索引的耗时。如果是,将严重影响从库的同步延迟。...可能丢数据,有辅助功能可以避免部分丢数据的场景适合添加唯一索引3 添加唯一索引的风险根据上面的介绍可以得知gh-ost是比较适合唯一索引,所以这部分就着重介绍一下gh-ost添加唯一索引的相关内容...,而且的这个时间差只会更大。...添加唯一索引做了一下总结,分享了一些案例和经验。

2K30

MySQL索引组织

MySQL索引组织 今天没怎么学习,简单写下MySQL里面innodb存储引擎下的索引组织吧。...在Innodb存储引擎中,都是根据主键的顺序组织存放的,这种存储方式的称之为索引组织,在innodb存储引擎中,每张都有主键,也就是primary key,如果在创建的时候没有显式的制定主键,...3.当我们的中有多个唯一索引时,innodb存储引擎会选择建时的第一个定义的非空索引作为主键,需要注意的是,主键的选择根据的是定义索引的顺序,而不是建时的顺序。...这张包含a,b,c,d四个列b,c,d三个列上我们都创建了唯一索引,不同的是b的值可以为空,而c,d列都是唯一索引,而且不为空,上面的建表语句没有显式的定义主键,所以innodb存储引擎会帮我们自动选择非空的唯一索引...,可以看出虽然c,d都是非空唯一索引,但是在定义的过程中,unique key (d)比较靠前,所以innodb存储引擎将他作为这个的主键。

1.4K10

MYSQL索引覆盖、 索引下推

每个 INNODB 都会有一个聚簇索引 创建规则如下: * 如果设置了主键,则主键就是聚簇索引 * 如果没有主键,则会默认第一个NOT NULL,且唯一(UNIQUE)的列作为聚簇索引 * 以上都没有...explain 分析: 可通过Extra 是否是Using Index 判断查询是否索引覆盖 如何实现索引覆盖: 将被查询的字段,建立到联合索引里去 哪些场景适合使用索引覆盖来优化SQL 全count...name like '张%' and age = 20; Mysql版本 < 5.6 检索复合索引 idx_name_age 查询出所有 name 包含 “张” 的主键ID 然后通过聚簇索引判断出所有符合...where子句的数据返回 ,此过程需要回 Mysql版本 >= 5.6 检索复合索引 idx_name_age 查询所有 name 包含 “张” 的 且age =20 的数据 直接返回结果集, 无需回...可见 索引下推在非主键索引上的优化,可以有效减少回的次数,大大提升了查询的效率 explain 分析: Using Index Condition 使用了索引下推的表现 end!

1.9K30

如何准确判断什么时候可以给索引 - 崔笑颜的博客

导读 以社交平台的用户为例,随着业务的快速增长,用户user单数据量越来越大,此时,如果我们想给user添加索引,数据规模对添加过程的影响势必要考虑在内,但是,单数据规模对添加索引会产生什么样的影响呢...,我们在什么样的数据库请求状态下给添加索引比较好呢?...今天,我就详细回答一下上面两个问题: 单数据规模对添加索引会产生什么样的业务影响? 在什么样的数据库请求状态下给添加索引比较好?...锁,我会在《MySQL锁全解析》详细讲解 根据alter类型,确定执行方式,一共两种执行方式:COPY、INPLACE 更新内存中的数据字典,标记user所有索引online_status为ONLINE_INDEX_CREATION...小结 通过本章的讲解,我想你应该对MySQL的在线DDL的机制有了清晰的认识,同时,通过在线DDL机制的讲解,我们也发现了一些优化的方法: 目的 解决方法 减少业务影响 调innodb_sort_buffer_size

1.2K30

MySQL设计

存储大规模数据集需要仔细设计数据库模式和索引,以便能够高效地支持各种查询操作。...数据库设计结构设计垂直分割:将分割成多个相关性较小的,以减少单个的字段数量。这有助于提高查询效率和降低冗余。规范化:合理使用规范化,将重复数据抽取成独立的,以减小数据冗余。...索引设计主键索引:对主键字段创建索引,以提高检索速度。...CREATE INDEX idx_main_data_id ON main_data(id);唯一索引:对经常被查询的唯一性字段创建索引,例如,用户名或邮箱。...分库分如果数据量仍然巨大,可以考虑分库分策略,将数据划分到不同的数据库或中。4. 数据分区根据时间、范围等条件对数据进行分区,以提高查询效率。5.

16410

MySQL ORDER BY主键idLIMIT限制走错索引

背景及现象 report_product_sales_data数据量2800万; 经测试,在当前数据量情况下,order by主键id,limit最大到49的时候可以用到索引report_product_sales_data_hq_code_orgz_id_index...,大于49时就走PRIMARY主键索引。...结构 CREATE TABLE `report_product_sales_data` (   `id` int(10) unsigned NOT NULL AUTO_INCREMENT COMMENT...order by字段所在的索引,没有limit会使用where 条件的索引; 对于数据量比较大,而且执行量很高的分页sql,尽可能将所有的查询字段包括在索引中,同时使用索引来消除排序; 多用explain...查看是否使用到了最优索引; 利用optimizer trace查看优化器执行过程; 观察mysql的slow_query_log,及时做排查优化。

1.8K10

MySQL查询索引的方式

在网上可以查到有两种方式查询索引 show index from tablename SELECT * FROM mysql.innodb_index_stats a WHERE a.database_name...= '数据库名' and a.table_name like '%名%'; 第一种是可行的,问题是在于并不是用SELECT语句,所以就不能和其他的数据一起查询,譬如说 查询结构的时候连同索引一起查询...在网上翻了很多页面都没有找到合适的解决方案,于是我把所有独立数据库用户身份可以查看的全部翻看一遍之后发现。STATICS中是存有索引数据的。...SELECT * FROM INFORMATION_SCHEMA.STATISTICS WHERE TABLE_SCHEMA = basename AND TABLE_NAME = tablename 将索引信息和结构信息一起查看的查询...先将STATISTICS中的数据过滤一遍,再进行合并,两张都要以basename,tablename进行过滤。

3.3K20

MySQL ORDER BY主键idLIMIT限制走错索引

背景及现象 report_product_sales_data数据量2800万; 经测试,在当前数据量情况下,order by主键id,limit最大到49的时候可以用到索引report_product_sales_data_hq_code_orgz_id_index...,大于49时就走PRIMARY主键索引。...结构 CREATE TABLE `report_product_sales_data` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT COMMENT...由于自身的优化器选择,为了避免某些排序的消耗,可能会走非预期的PRIMARY主键索引; 对于数据量比较大,而且执行量很高的分页sql,尽可能将所有的查询字段包括在索引中,同时使用索引来消除排序; 多用explain...查看是否使用到了最优索引; 利用optimizer trace查看优化器执行过程; 观察mysql的slow_query_log,及时做排查优化。

6.6K32

Mysql索引原理(十五)」维护索引-修复损坏的

修复损坏的 即使用正确的类型创建了并加上了合适的索引,工作也没有结束:还需要维护索引来确保它们都正常工作。...维护有三个主要的目的:找到并修复损坏的,维护准确的索引统计信息,减少碎片。 损坏(corruption)是很糟糕的事情。对于MyISAM存储引擎,损坏通常是系统崩溃导致的。...其他的引擎也会由于硬件问题、MySQL本身的缺陷或者操作系统的问题导致索引损坏。 损坏的索引会导致查询返回错误的结果或者莫须有的主键冲突等问题,严重时甚至还会导致数据库的崩溃。...CHECK TABLE通常能够找出大多数的索引的错误。...不过,如果损坏的是系统区域,或者是的“行数据”区域,而不是索引,那么上面的办法就没有用了。在这种情况下,可以从备份中恢复,或者尝试从损坏的数据文件中尽可能地恢复数据。

2.2K20
领券