首页
学习
活动
专区
工具
TVP
发布

ElasticSearch索引 VS MySQL索引

前言

这段时间在维护产品的搜索功能,每次在管理台看到  这么高效的查询效率我都很好奇他是如何做到的。

这甚至比在我本地使用  通过主键的查询速度还快。

为此我搜索了相关资料:

这类问题网上很多答案,大概意思呢如下:

ES 是基于  的全文检索引擎,它会对数据进行分词后保存索引,擅长管理大量的索引数据,相对于  来说不擅长经常更新数据及关联查询。

说的不是很透彻,没有解析相关的原理;不过既然反复提到了索引,那我们就从索引的角度来对比下两者的差异。

MySQL 索引

先从  说起,索引这个词想必大家也是烂熟于心,通常存在于一些查询的场景,是典型的空间换时间的案例。

常见的数据结构

假设由我们自己来设计  的索引,大概会有哪些选择呢?

散列表

首先我们应当想到的是散列表,这是一个非常常见且高效的查询、写入的数据结构,对应到  中就是

这个数据结构应该不需要过多介绍了,它的写入效率很高,比如我们要查询  的数据时,需要将 3 进行哈希运算,然后再这个数组中找到对应的位置即可。

但如果我们想查询  这样的区间数据时,散列表就不能很好的满足了,由于它是无序的,所以得将所有数据遍历一遍才能知道哪些数据属于这个区间。

有序数组

有序数组的查询效率也很高,当我们要查询  的数据时,只需要通过二分查找也能高效定位到数据。

同时由于数据也是有序的,所以自然也能支持区间查询;这么看来有序数组适合用做索引咯?

自然是不行,它有另一个重大问题;假设我们插入了  的数据,就得同时将后续的所有数据都移动一位,这个写入效率就会变得非常低。

平衡二叉树

既然有序数组的写入效率不高,那我们就来看看写入效率高的,很容易就能想到二叉树;这里我们以平衡二叉树为例:

由于平衡二叉树的特性:

左节点小于父节点、右节点大于父节点。

所以假设我们要查询  的数据,只需要查询  便能最终找到数据,时间复杂度为,同理写入数据时也为。

但依然不能很好的支持区间范围查找,假设我们要查询 的数据时,需要先查询10节点的左子树再查询10节点的右子树最终才能查询到所有数据。

导致这样的查询效率并不高。

跳表

跳表可能不像上边提到的散列表、有序数组、二叉树那样日常见的比较多,但其实  中的  就采用了跳表实现。

这里我们简单介绍下跳表实现的数据结构有何优势。

我们都知道即便是对一个有序链表进行查询效率也不高,由于它不能使用数组下标进行二分查找,所以时间复杂度是

但我们也可以巧妙的优化链表来变相的实现二分查找,如下图:

我们可以为最底层的数据提取出一级索引、二级索引,根据数据量的不同,我们可以提取出 N 级索引。

当我们查询时便可以利用这里的索引变相的实现了二分查找。

假设现在要查询  的数据,只需要遍历  四个节点便可以查询到数据,当数越多时,效率提升会更明显。

同时区间查询也是支持,和刚才的查询单个节点类似,只需要查询到起始节点,然后依次往后遍历(链表有序)到目标节点便能将整个范围的数据查询出来。

同时由于我们在索引上不会存储真正的数据,只是存放一个指针,相对于最底层存放数据的链表来说占用的空间便可以忽略不计了。

平衡二叉树的优化

但其实  中的  并没有采用跳表,而是使用的一个叫做  树的数据结构。

这个数据结构不像是二叉树那样大学老师当做基础数据结构经常讲到,由于这类数据结构都是在实际工程中根据需求场景在基础数据结构中演化而来。

比如这里的  树就可以认为是由平衡二叉树演化而来。

刚才我们提到二叉树的区间查询效率不高,针对这一点便可进行优化:

在原有二叉树的基础上优化后:所有的非叶子都不存放数据,只是作为叶子节点的索引,数据全部都存放在叶子节点。

这样所有叶子节点的数据都是有序存放的,便能很好的支持区间查询。

只需要先通过查询到起始节点的位置,然后在叶子节点中依次往后遍历即可。

当数据量巨大时,很明显索引文件是不能存放于内存中,虽然速度很快但消耗的资源也不小;所以  会将索引文件直接存放于磁盘中。

这点和后文提到 elasticsearch 的索引略有不同。

由于索引存放于磁盘中,所以我们要尽可能的减少与磁盘的 IO(磁盘 IO 的效率与内存不在一个数量级)

通过上图可以看出,我们要查询一条数据至少得进行 4 次IO,很明显这个 IO 次数是与树的高度密切相关的,树的高度越低 IO 次数就会越少,同时性能也会越好。

那怎样才能降低树的高度呢?

我们可以尝试把二叉树变为三叉树,这样树的高度就会下降很多,这样查询数据时的 IO 次数自然也会降低,同时查询效率也会提高许多。

这其实就是 B+ 树的由来。

使用索引的一些建议

其实通过上图对 的理解,也能优化日常工作的一些小细节;比如为什么需要最好是有序递增的?

假设我们写入的主键数据是无序的,那么有可能后写入数据的 id 小于之前写入的,这样在维护  索引时便有可能需要移动已经写好数据。

如果是按照递增写入数据时则不会有这个考虑,每次只需要依次写入即可。

所以我们才会要求数据库主键尽量是趋势递增的,不考虑分表的情况时最合理的就是自增主键。

整体来看思路和跳表类似,只是针对使用场景做了相关的调整(比如数据全部存储于叶子节点)。

ES 索引

聊完了,现在来看看  是如何来使用索引的。

正排索引

在 ES 中采用的是一种名叫的数据结构;在正式讲倒排索引之前先来聊聊和他相反的。

以上图为例,我们可以通过  查询到具体对象的方式称为使用,其实也能理解为一种散列表。

本质是通过 key 来查找 value。

比如通过  便能很快查询到  这条数据。

倒排索引

那如果反过来我想查询  中包含了  的数据有哪些?这样如何高效查询呢?

仅仅通过上文提到的正排索引显然起不到什么作用,只能依次将所有数据遍历后判断名称中是否包含  ;这样效率十分低下。

但如果我们重新构建一个索引结构:

当要查询  中包含  的数据时,只需要通过这个索引结构查询到  中所包含的数据,再通过映射的方式查询到最终的数据。

这个索引结构其实就是。

Term Dictionary

但如何高效的在这个索引结构中查询到  呢,结合我们之前的经验,只要我们将  有序排列,便可以使用二叉树搜索树的数据结构在 下查询到数据。

将一个文本拆分成一个一个独立 的过程其实就是我们常说的分词。

而将所有  合并在一起就是一个 ,也可以叫做单词词典。

英文的分词相对简单,只需要通过空格、标点符号将文本分隔便能拆词,中文则相对复杂,但也有许多开源工具做支持(由于不是本文重点,对分词感兴趣的可以自行搜索)。

当我们的文本量巨大时,分词后的  也会很多,这样一个倒排索引的数据结构如果存放于内存那肯定是不够存的,但如果像  那样存放于磁盘,效率也没那么高。

Term Index

所以我们可以选择一个折中的方法,既然无法将整个  放入内存中,那我们可以为 创建一个索引然后放入内存中。

这样便可以高效的查询 ,最后再通过 查询到 。

相对于  中的 来说也会减少了几次。

这个  我们可以使用这样的  也就是我们常说的 来存放。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20201010A0G91000?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券