专栏首页小数志MySQL模糊搜索的几种姿势

MySQL模糊搜索的几种姿势

导读:本文对MySQL中几种常用的模糊搜索方式进行了介绍,包括LIKE通配符、RegExp正则匹配、内置字符串函数以及全文索引,最后给出了性能对比。

01 引言

MySQL根据不同的应用场景,支持的模糊搜索方式有多种,例如应用最广泛的可能是Like匹配和RegExp正则匹配,二者虽然用法和原理都很相似,但实际上匹配原则却不尽相同,其中Like要求模式串与整个目标字段完全匹配才检索该记录,而RegExp则是要求目标字段包含模式串即可。

对于简单的判断模式串是否存在类型的模糊搜索,应用MySQL内置函数即可实现,例如Instr()、Locate()、Position()等。

当然,提到MySQL查询性能就不得不提到索引,对于字段模糊查询需求,我们也可以考虑添加全文索引(Fulltext)。

注:本文所用MySQL版本8.0.19,可视化工具Navicat Primium。

02 4种模糊查询

为了便于描述和测试不同模糊查询方式结果,首先给出一个简单的测试用数据表tests如下:

其中,tests表仅含有一个名为words的字段,并对该字段添加全文索引。表中共有6条记录。

  • Like

Like算作MySQL中的谓词,其应用与is、=、>和<等符号用法类似。Like主要支持两种通配符,分别是"_"和"%",其中前者代表匹配1个任意字符,常用于充当占位符;而后者代表匹配0个或多个任意字符。从某种意义上讲,Like可看作是一个精简的正则表达式功能。

例如,在如上表中查找所有以"hello"开头的记录,则其SQL语句为:

SELECT words FROM tests WHERE words LIKE 'hello%';

查询结果:

如果想查找所有以"hello"开头且至少含有6个字符的记录,则可简单修改SQL语句如下:

SELECT words FROM tests WHERE words LIKE 'hello_%';

查询结果:

另外:当在Like模式字段中,若不包含任何"_"和"%"通配符,则等价于"=",表示精确匹配,例如查询语句……Like "hello",则仅返回hello一条记录;还可在Like前加限定词Not,表示结果取反。

  • RegExp

正则表达式具有庞大而丰富的语法,MySQL语法中支持绝大部分正则表达式功能,几乎可以满足所有需求。本文不过多展开正则表达式相关介绍,仅在Like的基础上,简单介绍其与Like模糊搜索方式的区别。

如前所述,Like匹配原则是要求模式串与整个目标字段匹配时,才返回该条记录;而RegExp中则是当目标字段包含模式串时即返回该条记录。例如如下SQL语句将返回所有包含"hello"的记录:

SELECT words FROM tests WHERE words REGEXP 'hello';

而在Like中这样的写法仅返回记录="hello"的记录。为了限定正则表达式以某个模式串开头或者结尾,可以通过添加"^"和"$"标识符来限定,例如仍然搜索以"hello"开头的目标字段,则其SQL语句为:

SELECT words FROM tests WHERE words REGEXP '^hello';
  • 内置函数

对于包含某些特定模式串的模糊搜索,可以通过MySQL内置函数实现。可以完成这一功能的函数包括Instr()、Locate()和Position()等,其功能语法很相近,均是返回子串在字符串中的索引,且索引下标从1开始,当子串不存在是返回0。需要注意的是三个函数中子串和字符串的先后顺序是不一致的。例如以下语句均成功检索,且返回目标索引1

SELECT INSTR("hello,world", 'hello');-- 1
SELECT LOCATE('hello', "hello,world");-- 1
SELECT POSITION('hello' in "hello, world"); -- 1

应用以上3个内置函数,搜索上述测试表中包含"hello"的记录,则相应SQL语句为:

SELECT words  FROM tests WHERE INSTR(words, 'hello');
SELECT words  FROM tests WHERE LOCATE('hello', words);
SELECT words  FROM tests WHERE POSITION('hello' in words);
  • 全文索引

抛开索引谈查询性能,都是耍流氓!

全文索引是MySQL中索引的一种,曾经仅在引擎为MyISAM的表中支持,从5.6版本开始在InnoDB中也开始支持全文索引,支持的字段格式包括CHAR、VARCHAR和TEXT。在如上已经添加了全文索引的tests表中,仍然查询包含"hello"的记录,应用全文索引查询的SQL语句为:

SELECT words FROM tests WHERE MATCH(words) against('hello');

实际上,MATCH(words) against('hello')返回的是字段words对目标字符"hello"的匹配程度:当不存在任何匹配结果时,返回0;否则,根据匹配次数的多少和位置先后返回一个匹配度。例如,如下SQL语句返回表中每条记录对目标字段"hello"的匹配度:

SELECT MATCH(words) against('hello') FROM tests;

返回结果如下:

03 查询性能对比

为了对比以上4种模糊搜索方式的性能,我们这里构建一个规模较大且更具一般性的数据表。本文选择采集若干条英文格言,用于创建目标数据库。

  • 创建数据表。为简单起见,仅创建一个名为says的字段,且对其添加全文索引。
CREATE TABLE IF NOT EXISTS sayings(says TEXT, FULLTEXT (says));
  • 英文格言信息获取

在网上找了个英文格言的网站,并写了一个python小爬虫爬取页面全部300条英文格言,爬虫源码如下(为了增加记录条数,将300条记录重写100词,即数据库中包含30000条记录):

from pyquery import PyQuery  as pq
from pymysql import connect

doc = pq(url='http://www.1juzi.com/new/43141.html', encoding = 'gb18030')
items=doc("div.content>p:nth-child(2n+1)").items()
hots = [item.text() for item in items]
with connect(host="localhost", user="root", password="123456", db='teststr', charset='utf8') as cur:
    sql_insert = 'insert into sayings values (%s);'
    for _ in range(100):
        cur.executemany(sql_insert, hots)

注:如果对pyquery爬虫运用感兴趣,可移步:用pyquery5行代码爬取百度热点新闻一文

对爬取的英文短句写入创建的数据表中,结果如下:

既然是英文励志格言短句,那么我们就来查询其中包括"success"的记录。

  • 首先查询语句中任意位置包含"success"的记录,4种方式SQL语句及执行时间为:
-- LIKE通配符
SELECT says FROM sayings WHERE says LIKE '%success%'
> OK
> 时间: 0.036s

-- REGEXP正则匹配
SELECT says FROM sayings WHERE says REGEXP 'success'
> OK
> 时间: 0.053s

-- 内置函数查找
SELECT says FROM sayings WHERE INSTR(says, 'success')
> OK
> 时间: 0.045s

SELECT says FROM sayings WHERE LOCATE('success', says)
> OK
> 时间: 0.044s

SELECT says FROM sayings WHERE POSITION('success' in says)
> OK
> 时间: 0.047s

-- 全文索引
SELECT says FROM sayings WHERE MATCH(says) against('Success')
> OK
> 时间: 0.006s

可见,全文索引速度最宽,领先其他方式接近一个量级;Like通配符速度其次,但与其他几种查询方式效率相差不大。

通过Explain查询计划,我们可以发现全文索引方式由于应用了索引而无需全表查询,所以执行速度快,而其他三种模糊查询方式均为执行全表查询。

全文索引查询计划

Like通配符查询计划

实际上,对于添加索引的字段应用Like查询时,可以应用索引加速查询,为勒验证全文索引条件下是否仍然可以应用索引,我们进行第二组性能测试:

  • 查询语句中以"success"开头的记录(全文索引方式不支持指定单词开头的查询任务),相应SQL语句即执行时间如下:
SELECT says FROM sayings WHERE says LIKE 'success%'
> OK
> 时间: 0.015s

SELECT says FROM sayings WHERE says REGEXP '^success'
> OK
> 时间: 0.046s

SELECT says FROM sayings WHERE INSTR(says, 'success')=1
> OK
> 时间: 0.042s

SELECT says FROM sayings WHERE LOCATE('success', says)=1
> OK
> 时间: 0.051s

SELECT says FROM sayings WHERE POSITION('success' in says)=1
> OK
> 时间: 0.049s

SELECT says FROM sayings WHERE MATCH(says) against('Success')
> OK
> 时间: 0.007s

可以看到,修改后的Like查询效率提升明显,并大幅超过其他方式。但解释查询计划发现,虽然possible_key显示了索引字段,但实际仍然未应用任何索引(key为null),即仍然进行全表查询(Type = All)。之所以带来速度上的大幅提升,仅仅是因为对'success%'要比'%success%'执行字符串匹配要快得多(后者要整列匹配,前者仅需匹配开头的单词即可),而与索引无关。

Like'success%'仍然无法应用全文索引

所以,得到的结论是Like通配符无法有效利用全文索引加速查询,但在特定模式下的查询速度可快于通配符%模式下的查询。

04 总结

本文探讨了MySQL中4中模糊查询方式,包括:

  • Like通配符用于查询目标字段与模式串完全匹配的记录,且无法应用全文索引提高查询速度,但以特定字符开头的模糊查询比以"%"开头时速度提升明显
  • RegExp正则表达式功能强大,可实现任意模式查询,但执行效率一般
  • 简单的子串有无查询还可应用MySQL内置函数,包括Instr()、Locate()和Position()等,用法相近,但效率一般
  • 对于包含全文索引的目标字段查询,应用全文索引查询效率最高,但可定制性差,不支持任意匹配查询
  • 记录数目较少时,几种查询方式效率均可接受,可根据任务需求灵活选用

本文分享自微信公众号 - 小数志(Datazhi),作者:luanhz

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-03-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 从第6次全国人口普查数据说起

    全国人口分布呈现明显的东南多、西北少的特点,这跟地势走势和经济发展程度有绝对关系。人口大省排在靠前序列的依次是广东、山东、河南、四川和江苏五省,其中广东是唯一人...

    luanhz
  • Python应用MongoDB数据库的一些总结

    数据库,顾名思义,就是数据存储的一个仓库。个人理解,与普通的文件不同,数据库因为是专门用于存储特定格式的数据,所以术业有专攻,它在处理数据相关的事务时更为专业和...

    luanhz
  • MySQL中查询中位数?

    计算中位数可能是小学的内容,然而在数据库查询中实现却并不是一件容易的事。我们今天就来看看都有哪些方法可以实现。

    luanhz
  • 多表操作(DQL)

    wife表的外键husband_id与husband表对应,对于一对一来说此外键不能重复

    木瓜煲鸡脚
  • Oracle 用户操作命令

    用户1499526
  • 基因相互作用网络string数据库

    如果有几十个基因或是蛋白,我想制作一个它们间的互作网络图,是不是特别难?我们这种菜鸟级别的,是不是做不了。答案是否定的,现在主流使用R语言来做,但也有很多在线网...

    生信交流平台
  • 前后端分离项目,如何解决跨域问题

    CORS全称Cross-Origin Resource Sharing,意为跨域资源共享。当一个资源去访问另一个不同域名或者同域名不同端口的资源时,就会发出跨域...

    macrozheng
  • configParser模块详谈

      使用配置文件来灵活的配置一些参数是一件很常见的事情,配置文件的解析并不复杂,在python里更是如此,在官方发布的库中就包含有做这件事情的库,那就是conf...

    py3study
  • Chocolatey,Windows下的包管理器

    Chocolatey(中文译:巧克力味)是Windows平台下的一款包管理工具,类似于Linux平台的apt-get和yum。第一次接触到Chocolatey...

    happyJared
  • Mysql语句的执行过程

    当你希望MySQL能够以更高的性能运行查询时,最好的办法是弄清楚MySQL是如何优化和执行查询。《高性能MySQL》

    大眼瞪小眼

扫码关注云+社区

领取腾讯云代金券