前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >2 Elasticsearch全文检索和匹配查询

2 Elasticsearch全文检索和匹配查询

作者头像
天涯泪小武
发布2019-01-17 11:05:29
1.3K0
发布2019-01-17 11:05:29
举报
文章被收录于专栏:SpringCloud专栏SpringCloud专栏

官网的翻译可参考:http://blog.csdn.net/dm_vincent/article/details/41693125 Elasticsearch主要功能就是完成模糊检索、字符串匹配,所以使用起来非常方便。而且它有一套自己的匹配规则,来决定把哪项搜索结果展示在前面。

全文检索测试

还接着上一篇的demo,在Controller的add方法加条数据

代码语言:javascript
复制
@RequestMapping("/add")
    public void testSaveArticleIndex() {
        Author author = new Author();
        author.setId(1L);
        author.setName("tianshouzhi");
        author.setRemark("java developer");

        Tutorial tutorial = new Tutorial();
        tutorial.setId(1L);
        tutorial.setName("elastic search");

        Article article = new Article();
        article.setId(1L);
        article.setTitle("springboot integreate elasticsearch");
        article.setAbstracts("springboot integreate elasticsearch is very easy");
        article.setTutorial(tutorial);
        article.setAuthor(author);
        article.setContent("elasticsearch based on lucene");
        article.setPostTime(new Date());
        article.setClickCount(1L);

        Article article1 = new Article();
        article1.setId(2L);
        article1.setTitle("springboot 书籍");
        article1.setAbstracts("springboot的书");
        article1.setTutorial(tutorial);
        article1.setAuthor(author);
        article1.setContent("elasticsearch based on lucene");
        article1.setPostTime(new Date());
        article1.setClickCount(1L);

        articleSearchRepository.save(article);
        articleSearchRepository.save(article1);
    }

添加完后,Elasticsearch里面就有了两条Article数据。 我们通过几个小测试来看看全文检索。

代码语言:javascript
复制
import com.example.demo.pojo.Article;
import com.example.demo.repository.ArticleSearchRepository;
import org.elasticsearch.index.query.QueryStringQueryBuilder;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;

import java.util.Iterator;

@RunWith(SpringRunner.class)
@SpringBootTest
public class TestelasticaearchApplicationTests {
    @Autowired
    private ArticleSearchRepository articleSearchRepository;


    @Test
    public void testSearch() {
        String queryString = "springboot 书籍";//搜索关键字
        QueryStringQueryBuilder builder = new QueryStringQueryBuilder(queryString);
        Iterable<Article> searchResult = articleSearchRepository.search(builder);
        Iterator<Article> iterator = searchResult.iterator();
        while (iterator.hasNext()) {
            System.out.println(iterator.next());
        }
    }

通过修改queryString为 springboot,springboot 书籍,springboot 籍,springboot easy等各种组合来测试查询,就会发现Elasticsearch的魔力,它的匹配查询功能确实强大。 而且查询结果顺序是根据匹配度来排序的。后面会附上匹配的规则。

单字段匹配测试

如果只希望去匹配某个字段譬如title,也很简单,在ArticleSearchRepository里加上一个方法

代码语言:javascript
复制
public interface ArticleSearchRepository extends ElasticsearchRepository<Article, Long> {
    List<Article> findByTitle(String title);
}

测试:

代码语言:javascript
复制
@Test
    public void testSearchTitle(){
        String queryString="springboot";//搜索关键字
        List<Article> searchResult = articleSearchRepository.findByTitle(queryString);
        Iterator<Article> iterator = searchResult.iterator();
        while(iterator.hasNext()){
            System.out.println(iterator.next());
        }
    }

和使用jpa查询一样,只不过这样就是模糊匹配单个字段了。通过修改queryString来测试一下不同的字符串的搜索结果。如springboot 籍。 除了Jpa的一些基本用法,也可以使用@Query这种注解式查询,官方给了个例子:

代码语言:javascript
复制
  public interface BookRepository extends Repository<Book, String> {
        List<Book> findByNameAndPrice(String name, Integer price);
        List<Book> findByNameOrPrice(String name, Integer price);
        Page<Book> findByName(String name,Pageable page);
        Page<Book> findByNameNot(String name,Pageable page);
        Page<Book> findByPriceBetween(int price,Pageable page);
        Page<Book> findByNameLike(String name,Pageable page);
        @Query("{\"bool\" : {\"must\" : {\"term\" : {\"message\" : \"?0\"}}}}")
        Page<Book> findByMessage(String message, Pageable pageable);
    }

@Query里面就是一个ElasticSearch支持的注解查询,就和hibernate支持hql那样。 上面两个小测试,在很多小项目中已经可以满足需求了,这也是Elasticsearch的基本功能。实际上还有很多更复杂的情况,下面我摘录一些。

多词查询(Multi-word Queries)

如果我们一次只能搜索一个词,那么全文搜索就会显得相当不灵活。幸运的是,通过match查询来实现多词查询也同样简单:

GET /my_index/my_type/_search { “query”: { “match”: { “title”: “BROWN DOG!” } } } 以上的查询会返回所有的四份文档:

{ “hits”: [ { “_id”: “4”, “_score”: 0.73185337, “_source”: { “title”: “Brown fox brown dog” } }, { “_id”: “2”, “_score”: 0.47486103, “_source”: { “title”: “The quick brown fox jumps over the lazy dog” } }, { “_id”: “3”, “_score”: 0.47486103, “_source”: { “title”: “The quick brown fox jumps over the quick dog” } }, { “_id”: “1”, “_score”: 0.11914785, “_source”: { “title”: “The quick brown fox” } } ] } 文档4的相关度最高因为它包含了”brown”两次和”dog”一次。 文档2和文档3都包含了”brown”和”dog”一次,同时它们的title字段拥有相同的长度,因此它们的分值相同。 文档1只包含了”brown”。

因为match查询需要查询两个词条 - [“brown”,”dog”] - 在内部它需要执行两个term查询,然后将它们的结果合并来得到整体的结果。因此,它会将两个term查询通过一个bool查询组织在一起,我们会在合并查询一节中详细介绍。

从上面的例子中需要吸取的经验是,文档的title字段中只需要包含至少一个指定的词条,就能够匹配该查询。如果匹配的词条越多,也就意味着该文档的相关度就越高。

提高精度(Improving Precision)

匹配任何查询词条就算作匹配的话,会导致最终结果中有很多看似无关的匹配。它是一个霰弹枪式的策略(Shotgun Approach)。我们大概只想要显示包含了所有查询词条的文档。换言之,相比brown OR dog,我们更想要的结果是brown AND dog。

match查询接受一个operator参数,该参数的默认值是”or”。你可以将它改变为”and”来要求所有的词条都需要被匹配:

GET /my_index/my_type/_search { “query”: { “match”: { “title”: { “query”: “BROWN DOG!”, “operator”: “and” } } } } match查询的结构需要被稍稍改变来容纳operator参数。

这个查询的结果会将文档1排除在外,因为它只包含了一个查询词条。

控制精度(Controlling Precision)

在all和any中选择有种非黑即白的感觉。如果用户指定了5个查询词条,而一份文档只包含了其中的4个呢?将”operator”设置成”and”会将它排除在外。

有时候这正是你想要的,但是对于大多数全文搜索的使用场景,你会希望将相关度高的文档包含在结果中,将相关度低的排除在外。换言之,我们需要一种介于两者中间的方案。

match查询支持minimum_should_match参数,它能够让你指定有多少词条必须被匹配才会让该文档被当做一个相关的文档。尽管你能够指定一个词条的绝对数量,但是通常指定一个百分比会更有意义,因为你无法控制用户会输入多少个词条:

GET /my_index/my_type/_search { “query”: { “match”: { “title”: { “query”: “quick brown dog”, “minimum_should_match”: “75%” } } } } 当以百分比的形式指定时,minimum_should_match会完成剩下的工作:在上面拥有3个词条的例子中,75%会被向下舍入到66.6%,即3个词条中的2个。无论你输入的是什么,至少有2个词条被匹配时,该文档才会被算作最终结果中的一员。

minimum_should_match参数非常灵活,根据用户输入的词条的数量,可以适用不同的规则。具体可以参考minimum_should_match参数的相关文档。 为了更好地了解match查询是如何处理多词查询的,我们需要看看bool查询是如何合并多个查询的。

合并查询(Combining Queries)

在合并过滤器中我们讨论了使用bool过滤器来合并多个过滤器以实现and,or和not逻辑。bool查询也做了类似的事,但有一个显著的不同。

过滤器做出一个二元的决定:这份文档是否应该被包含在结果列表中?而查询,则更加微妙。它们不仅要决定是否包含一份文档,还需要决定这份文档有多相关。

和过滤器类似,bool查询通过must,must_not以及should参数来接受多个查询。比如:

GET /my_index/my_type/_search { “query”: { “bool”: { “must”: { “match”: { “title”: “quick” }}, “must_not”: { “match”: { “title”: “lazy” }}, “should”: [ { “match”: { “title”: “brown” }}, { “match”: { “title”: “dog” }} ] } } } title字段中含有词条quick,且不含有词条lazy的任何文档都会被作为结果返回。目前为止,它的工作方式和bool过滤器十分相似。

差别来自于两个should语句,它表达了这种意思:一份文档不被要求需要含有词条brown或者dog,但是如果它含有了,那么它的相关度应该更高。

{ “hits”: [ { “_id”: “3”, “_score”: 0.70134366, “_source”: { “title”: “The quick brown fox jumps over the quick dog” } }, { “_id”: “1”, “_score”: 0.3312608, “_source”: { “title”: “The quick brown fox” } } ] } 文档3的分值更高因为它包含了brown以及dog。

分值计算(Score Calculation)

bool查询通过将匹配的must和should语句的_score相加,然后除以must和should语句的总数来得到相关度分值_score。

must_not语句不会影响分值;它们唯一的目的是将不需要的文档排除在外。

控制精度(Controlling Precision)

所有的must语句都需要匹配,而所有的must_not语句都不能匹配,但是should语句需要匹配多少个呢?默认情况下,should语句一个都不要求匹配,只有一个特例:如果查询中没有must语句,那么至少要匹配一个should语句。

正如我们可以控制match查询的精度,我们也能够通过minimum_should_match参数来控制should语句需要匹配的数量,该参数可以是一个绝对数值或者一个百分比:

GET /my_index/my_type/_search { “query”: { “bool”: { “should”: [ { “match”: { “title”: “brown” }}, { “match”: { “title”: “fox” }}, { “match”: { “title”: “dog” }} ], “minimum_should_match”: 2 } } } 以上查询的而结果仅包含以下文档: title字段包含: “brown” AND “fox” 或者 “brown” AND “dog” 或者 “fox” AND “dog” 如果一份文档含有所有三个词条,那么它会被认为更相关。

关于下面的这些match匹配如何应用于springboot中,我还正在学习,有用过的还望指点。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017年06月02日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 全文检索测试
  • 单字段匹配测试
  • 多词查询(Multi-word Queries)
  • 提高精度(Improving Precision)
  • 控制精度(Controlling Precision)
  • 合并查询(Combining Queries)
  • 分值计算(Score Calculation)
  • 控制精度(Controlling Precision)
相关产品与服务
Elasticsearch Service
腾讯云 Elasticsearch Service(ES)是云端全托管海量数据检索分析服务,拥有高性能自研内核,集成X-Pack。ES 支持通过自治索引、存算分离、集群巡检等特性轻松管理集群,也支持免运维、自动弹性、按需使用的 Serverless 模式。使用 ES 您可以高效构建信息检索、日志分析、运维监控等服务,它独特的向量检索还可助您构建基于语义、图像的AI深度应用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档