【数据蒋堂】索引的本质是排序

来源:润乾软件

作者:蒋步星

本文长度为2600字,建议阅读5分钟

本文为你分析索引清理背后的技术原理。

索引是经常用到的技术,但有些程序员对索引的原理了解不深,发现数据查询性能有问题立刻就想起建索引,但效果常常也不尽人意。那么到底什么时候该用索引以及该怎么用?我们来分析索引清理背后的技术原理就知道了。

基本原理

索引技术的初衷是为了快速从一个大数据集中找出某个字段等于确定值(比如按身份证号找出某个人)的记录。一个规模(行数)为N的数据集,用遍历查找则需要比较N次,而如果数据是按该字段值(在索引中称为键值)有序的,那么就可以建立二叉树用二分法查找,只要比较logN(以2为底)次,比如10亿行数据只要比较30次(10亿约是2^30),这显然能大大提高性能。有时可能还会有键值有重复的情况(按出生日期找人)或按键值区间的查找需求(按出生日期区间找人),比较次数就会比logN大一些,但基本仍是这个数量级的。

索引的本质就是排序。

当然,我们一般不会把原始数据集排序,而是把每条记录的键值和这条记录在数据集中的位置,按键值次序做成一个规模较小的数据集,这也就是索引表了。如果还有其它字段也要用于键值查找,则可以再建立别的索引。原始数据集只有一份,索引可以有多个,如果每个索引都把原始数据集排序,则会使数据集被复制很多遍,占用空间过大。

另外,数据库在建立索引时还要考虑数据会插入删除,简单排序的索引会导致插入删除的成本非常高,这时一般会使用B树以方便快速更新。B树相当于把二叉树扩展成n叉树,本质上仍然是键值有序。(索引如何建立的话题内容不少,我们将另行撰文讨论,这里只研讨索引使用)

还有一种引申出来的方法是HASH索引,计算记录键值的某种HASH值,散列到1...k的自然数范围。这样查找时连二分比较也不必做,直接用HASH值定位了。HASH方法只用来做键值的精确查找,不能用来实现区间查找,因为HASH函数并不单调,已经失去原来键值的大小信息了,不过这在许多场景下也够用(按身份证号找人)。HASH索引本质上也是排序,只是用了键值的HASH值来排序。我们下面的讨论还是以普通键值排序为例,结论也适用于HASH索引。

单索引

理解了上述原理后,我们就能知道什么时候索引会有效,以及书写语法时的注意事项。

1. 只针对键值本身提条件的,很有效。

如:身份证号等于某值的、出生日期在某个区间内的,这些都很有效。

2. 针对键值的函数提条件的,大部分无效,小部分取决于数据库优化。

如:出生日期是星期几的,索引键是出生日期。索引就没法用,因为星期几对索引无序,这时要把索引直接建在键值函数上,大部分数据库都支持这种索引。

再如:年龄在某个区间的,索引键是出生日期。索引不能直接用,但年龄和出生日期之间是个单调函数,如果数据库优化做得好是可能利用的。但大概率是不行的。

书写查询条件时要尽量写成针对原始索引键值本身,不要使用函数或表达式。

3. 一般性条件中包含键值条件的,键值条件作为一个最外层的AND条件时有效。

如:出生日期在某天且姓名中有某字的。数据库会用索引找出出生日期在某天的、然后再在其中遍历查找出姓名中有某字的。现代商用数据库都能够智能地分析条件表达式而找到可以使用索引提速的部分。

再如:出生日期在某天或姓名中有某字的。这时候索引就没法用了,后半部条件反正也只能遍历,那就直接遍历了,索引就忽略了。

书写多个组合查询条件时就要注意尽量把索引键有关的条件放在最外层和其它条件AND起来,索引键不能用于缩小查询范围时不会提高性能。

多索引

如果我们为数据集查询条件中涉及的多个字段都建立索引,是否会进一步提高性能?

从上面的原理分析后结论比较悲催,大部分场景是只能用上一个。

比如在字段A和B上都建有索引,查询条件是 A=1 AND B=2。先用索引A过滤出来的A=1的记录,对B并没有序,这时B=2的条件只能硬遍历;反过来也一样,先用B=2过滤的结果集对A无序,也只能遍历了。商用数据库一般会预估成本,选择A和B中的过滤后结果集较小的那个索引来用。

不过,如果是A=1 OR B=2反而有可能用上,优化能力较好的数据库会分别用索引过滤出A=1和B=2的记录,再做个并集。

还可以建立多字段索引,如果建立A,B双字段索引,那么用A=1过滤后的结果集就对B有序,就可以继续用该索引过滤B=2的条件。数据库优化较好时会知道A=1 AND B=2和B=2 AND A=1是一回事,条件书写次序可以不必刻意和索引次序一致,只要注意上一小节所说的情况3就行:尽量把索引涉及条件放在最外层。

但是,A,B双字段索引对单独的B=2这个条件并无效,因为对A,B有序未必对B有序。B=2这种条件普只能再遍历了,这是许多程序员容易犯的错误。完整些说,A,B,C这样的多字段索引,对于A=?,A=? AND B=?,A=? AND B=? AND C=?这类条件都有效,但对于B=?,C=?,B=? AND C=?这种条件是无效的,还需要重新建立关于B或C的索引。

出于这个考虑,建立一次A,B,C多字段索引会对A,A/B,A/B/C条件都有效,那我们是否应当尽量把索引字段搞得尽量多?从索引原理上似乎是这样,但这样会导致索引表也大一圈,增加IO成本,所以也不一定,需要适当的权衡。

用于遍历

如果我们按上述原则正确地建立和使用了索引,是否就一定能提高性能呢?

还是不一定!

索引的初衷是用键值取数, 大多数情况是从一个巨大的数据集中会取出很少的记录出来。这类场景下,如果按上述原则建立和使用索引,确实是能显著地提高性能。但有时候条件遍历取出的记录非常多,这就很难说是不是能提高性能了,甚至可能反而更差。

原因是这样的:

我们前述说过,建索引时一般不会直接把原始数据集排序,而是另建一个索引表。按索引表的次序取出的数据,对于原始数据集而言并不是连续存放的,数据库优化做得不好时甚至可能是乱序的。硬盘取出大量不连续存放的数据时会同时取出很多无关数据,其耗时不能简单地按取出数据量来计算,这时候使用索引取数的性能提升就不会象希望的那样明显。如果乱序时还强行使用索引则还可能导致重复取,对于机械硬盘再有大量的磁头跳动时间,结果集很大时就极有可能还不如硬遍历的性能好。不过一般商用数据库会预估成本后选择合适的执行计划,发现有可能是这些情况就不再使用索引了,所以看到的表现一般最差也就是和遍历一样了,但如果预估不准,执行计划搞错了就可能出现还不如遍历性能好的现象。

数据库中数据一般是按插入次序存放的,如果这个次序和索引键序基本一致,那么会保证取出数据在物理上存放时是相对连续的,这时候再使用索引过滤,即使取出数据量较大也经常能观察到比较明显的性能提升。

专栏作者简介

蒋步星,润乾软件创始人、首席科学家

清华大学计算机硕士,著有《非线性报表模型原理》等,1989年,中国首个国际奥林匹克数学竞赛团体冠军成员,个人金牌;2000年,创立润乾公司;2004年,首次在润乾报表中提出非线性报表模型,完美解决了中国式复杂报表制表难题,目前该模型已经成为报表行业的标准;2014年,经过7年开发,润乾软件发布不依赖关系代数模型的计算引擎——集算器,有效地提高了复杂结构化大数据计算的开发和运算效率;2015年,润乾软件被福布斯中文网站评为“2015福布斯中国非上市潜力企业100强”;2016年,荣获中国电子信息产业发展研究院评选的“2016年中国软件和信息服务业十大领军人物”;2017年, 自主创新研发新一代的数据仓库、云数据库等产品即将面世。

数据蒋堂

《数据蒋堂》的作者蒋步星,从事信息系统建设和数据处理长达20多年的时间。他丰富的工程经验与深厚的理论功底相互融合、创新思想与传统观念的相互碰撞,虚拟与现实的相互交织,产生出了一篇篇的沥血之作。此连载的内容涉及从数据呈现、采集到加工计算再到存储以及挖掘等各个方面。大可观数据世界之远景、小可看技术疑难之细节。针对数据领域一些技术难点,站在研发人员的角度从浅入深,进行全方位、360度无死角深度剖析;对于一些业内观点,站在技术人员角度阐述自己的思考和理解。蒋步星还会对大数据的发展,站在业内专家角度给予预测和推断。静下心来认真研读你会发现,《数据蒋堂》的文章,有的会让用户避免重复前人走过的弯路,有的会让攻城狮面对扎心的难题茅塞顿开,有的会为初入行业的读者提供一把开启数据世界的钥匙,有的甚至会让业内专家大跌眼镜,产生思想交锋。

往期回顾:

【数据蒋堂】功夫都在报表外--漫谈报表性能优化

【数据蒋堂】非结构化数据分析是忽悠?

【数据蒋堂】多维分析的后台性能优化手段

原文发布于微信公众号 - 数据派THU(DatapiTHU)

原文发表时间:2017-04-28

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏牛客网

滴滴和美团面经(后台研发)

目前滴滴和美团都完成了四面,两个公司面的都是后台研发,美团三面面试官说是做外卖机器人(类似无人车),个人比较感兴趣,如果发offer,就签约美团结束秋招了。找工...

5919
来自专栏诸葛青云的专栏

C语言算法设计之奇数魔方阵

将1到n(为奇数)的数字排列在nxn的方阵上,且各行、各列与各对角线的和必须相同,如下所 示:

1020
来自专栏牛客网

2019届秋招JAVA开发面经 - 杭州【有赞】

一面电话面,二面线下面试,去公司看了看,技术氛围很好环境也很好,是一家很不错的公司,坐标杭州,规模千人,值得考虑。

1191
来自专栏章鱼的慢慢技术路

多益网络2018春季校园招聘研发岗笔试经验

4116
来自专栏一个会写诗的程序员的博客

数论 代数 群论 范畴论 与 函数式编程 Haskell, Scala数论代数群论范畴论

来自China Scala User Group 微信群的一段话,讲的很有意思,这里摘录一下:

1144
来自专栏数据科学学习手札

(数据科学学习手札04)Python与R在自定义函数上的异同

自编函数是几乎每一种编程语言的基础功能,有些时候我们需要解决的问题可能没有完全一致的包中的函数来进行解决,这个时候自编函数就成了一样利器,而Python与R在这...

3009
来自专栏java 成神之路

HashMap实现中文分词器

4037
来自专栏数据派THU

【干货】蒋步星:关系代数的问题及尝试

本文共12000字,建议阅读时间25分钟 本讲座选自北京润乾软件技术有限公司董事长蒋步星。于2015年5月22日在清华大学经管学院上所做的题为《关系代数的问题及...

29610
来自专栏牛客网

艺龙二面

10.19 艺龙面试 19号上午去艺龙参加了测试开发工程师的面试,游了两轮,我用的语言是Java,以下大部分问题还是根据简历上问的,发给有需要的人吧,攒攒人品。...

3275
来自专栏牛客网

老虎证券 iOS一面

2@property (weak, nonatomic) id delegate;

1431

扫码关注云+社区

领取腾讯云代金券