强大的搜索开源框架Elastic Search介绍

项目背景

近期工作需要,需要从成千上万封邮件中搜索一些关键字并返回对应的邮件内容,经调研我选择了Elastic Search。

Elastic Search简介

Elasticsearch ,简称ES 。是一个全文搜索服务器,也可以作为NoSQL 数据库,存储任意格式的文档和数据,同时,也可以做大数据的分析,是一个跨界开源产品。ES 有如下特点:

  • 全文搜索引擎, ES 是建立在Lucene 上的开源搜索引擎,可以用来进行全文搜索、地理信息搜索。Wikipedia、 GitHub 、StackOverFlow 等网站均使用ES
  • 文档存储和查询,可以像NoSQL 那样存储任意格式文档,井能根据条件查询文档。
  • 大数据分析, ES 号称能准确实时地进行大数据分析,数据量从TB 到PB ,国内外很多大公司都用ES 做大数据分析。
  • ES 提供了阻REST API ,用来简化对ES 的操作。因此可以使用任何语言的客户端,同时也提供Java API。
  • ES常常配合传统数据库一起使用, ES用来负责大数据的查询、搜索、统计分析。

Elastic Search安装

安装过程参考:

https://www.cnblogs.com/xxoome/p/6663993.html

(可以在文章底部点击"查看原文"来阅读进入这个连接。)

Elastic Search下载地址:

https://www.elastic.co/downloads/elasticsearch

我的相关系统版本号: 版本号: 6.3.1 jdk: 1.8 操作系统: CentOS 7.0

安装中文插件

默认Elastic Search对中文搜索不是很友好,需要安装相应的插件,安装方法:

  1. 进入elastic search安装目录,如/usr/local/elasticsearch/elasticsearch-6.3.1/bin,执行
./elasticsearch-plugin install analysis-smartcn

Elastic Search 的基本概念

ES 有一些基本概念, 掌握这些基本概念对理解ES 有很大帮助。

  1. Index, Index 是文档( Document )的集合, Index 下面包含了Type ,用于对Document进一步分类。可以理解为ES 中的Index 相当于数据库,而Type 相当于数据库中的表,ES 中可以轻易地联合Index 和Type 来搜索数据,数据库却不能。
  2. Type ,用来进一步组织Document , 一个Index 下可以有多个Type ,比如用户信息是一个Type ,用户的支付记录是一个Type 。
  3. Document , 文档是ES 能够存储和搜索的基本信息,类似数据库表行数据, Document为JSON 格式,文档属于Type 。
  4. Node (节点〉,节点是集群里的一台ES Server ,用于文档的存储和查询。应用可以只有一个节点,也可以由上百个节点组成集群来存储和搜索数据。每个节点都有一个节点名字,以及所属集群的名字。
  5. 集群,同样集群名的节点将组合为ES 集群,用来联合完成数据的存储和搜索。默认的集群名字是e lasticsearch 。 分区( Shards )和复制( Replicas ),每个Index 理论上都可以包含大量的数据,超过了单个节点的存储限制,而且,单个节点处理那么大的数据,将明显限制存储和搜索性能。为了解决这个问题, E S 会进一步将Index 在物理上细分为多个分区,而且这些分区会按照配置复制到多个节点, Index 的分区称为主分区,复制的分区称为复制分区。这样的好处是既保证数据不会丢失,又提高了查询的性能。

使用REST 访问Elastic Search示例(这里使用linux curl命令模拟http请求)

添加文档

curl  -XPOST  'http://192.168.111.130:9200/index-instance/type-instance/1?pretty ' -H  'Content-Type:application/json'  -d '
{
"name ": "携程业务名称",
"type": "department",
"postDate": "2018-07-15",
"message": "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
}
'

curl  -XPOST  'http://192.168.111.130:9200/index-instance/type-instance/2?pretty ' -H  'Content-Type:application/json'  -d '
{
"name ": "携程业务名称",
"type": "department",
"postDate": "2018-07-15",
"message": "携程的酒店服务非常好。"
}
'

说明:这里增加两条记录,index-instance 表示Index , type-instance表示Type ,数字1和2是文挡的主键,主键可以是任意形式,如果未指定主键, ES 会自动生成一个唯一主键, pretty是可选的, ES 输出的时候会格式化输出结果,更加美观。

执行成功会输出:

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "1",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 0,
  "_primary_term" : 1
}

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "2",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 0,
  "_primary_term" : 1
}

根据主键查询

curl -XGET  'http://192.168.111.130:9200/index-instance/type-instance/1?pretty'

说明: 1是主键。

如果存在结果,则返回:

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "1",
  "_version" : 1,
  "found" : true,
  "_source" : {
    "name " : "携程业务名称",
    "type" : "department",
    "postDate" : "2018-07-15",
    "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
  }
}

搜索文档

ES 提供了强大的搜索功能,搜索参数可以在url 后面,也可以放到body 中。使用GET 方法:

curl  -G  --data-urlencode  'q=message:机票'  'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'

说明:这里搜索“机票”,返回:

{
  "took" : 85,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 1,
    "max_score" : 0.68324494,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.68324494,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

再次搜索“酒店”:

curl  -G  --data-urlencode  'q=message:酒店'  'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'

返回:

{
  "took" : 9,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 2,
    "max_score" : 0.5753642,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "2",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程的酒店服务非常好。"
        }
      },
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

使用POST搜索:

curl  -XPOST 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"query" : {
 "match": {"message": "酒店"}
 }
}
'

返回同样的结果:

{
  "took" : 8,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 2,
    "max_score" : 0.5753642,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "2",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程的酒店服务非常好。"
        }
      },
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

注意:因为关键字中含有中文,需要curl进行url编码,所以curl使用参数--data-urlencode,参数-G表示这是一个GET请求,如果不加-G,则默认使用POST请求,则导致elastic search返回一个406不支持的POST错误请求响应。hits 包含了查询结果,在本例中, 只有2 条,_index 是index-instance , _type 是type-instance , 主键是1和2, _score 是搜索引擎概念, 表示查询相关度, 分数越高,表示此文档与关键字期望的结果的匹配程度高。

除了全文搜索,也可精确搜索,使用term进行精确搜索:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {
     "term": { "type": "department"}
 }
}
'

这里查找关键字值food。 如果需要使用翻页功能可以使用:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"from": 0, "size": 5,
"query": {
     "term": { "type": "department"}
 }
}
'

如果需要知道查询总数,则使用_count代替_search:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_count?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {
     "term": { "type": "department"}
 }
}
'

返回结果:

{
  "count" : 2,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  }
}

如果要联合条件查询, 则可以使用must 关键字:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_count?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {  
    "bool":{  
        "must": { "match": {" message": "酒店"}},  
        "must": {"term":  { "type": "IT" } }  
   }    
 }
}
'

由于这是一篇科普类文章,所以简单地介绍了一下ES的用法,更多高级用法可参考ES官网。

原文发布于微信公众号 - 高性能服务器开发(easyserverdev)

原文发表时间:2018-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Albert陈凯

Spark开发电商日志分析用户行为聚合功能练习下面开始搭建开发环境注意Task表中最后一个列task_param中,Json的StartDate和EndDate需要设置成今天,因为mock数据的时候,

项目介绍 ? 项目介绍 电商网站的各种用户行为进行分析 访问首页 → 点击商品 → 添加购物车 → 结算 访问首页 → 输入关键词 → 点击商品列表 → 点击...

52990
来自专栏java达人

tryLock的一个使用示例

就算是有几年工作经验的,如果没有专业的训练,也不一定能写出一手线程安全的代码,对于一般的web开发而言,多线程相关的部分都封装在web server里了,而平时...

20450
来自专栏牛客网

爱奇艺现场面试总结

一面: java内存模型:问面试官是jmm还是jvm,说是jvm,说了说分区 堆内存:说了堆内存划分和理由,各种内存的分配流程,各类回收算法。 项目:略 mys...

63770
来自专栏逸鹏说道

07. Web大前端时代之:HTML5+CSS3入门系列~H5 地理位置

Web大前端时代之:HTML5+CSS3入门系列:http://www.cnblogs.com/dunitian/p/5121725.html 定位类型 IP ...

46540
来自专栏华仔的技术笔记

iOS应用架构谈 网络层设计方案

网络层在一个App中也是一个不可缺少的部分,工程师们在网络层能够发挥的空间也比较大。另外,苹果对网络请求部分已经做了很好的封装,业界的AFNetworking也...

41290
来自专栏编程一生

架构师之路--搜索业务和技术介绍及容错机制

14120
来自专栏腾讯大数据的专栏

PGXZ-腾讯全功能分布式关系数据集群

开头先解释下全功能什么意思,所谓的全功能指的是支持绝大部分的SQL特性,像主键,触发器,约束,函数,存储过程,跨节点join等等。而且这些特性的支持对业务完全透...

37580
来自专栏IT技术精选文摘

海量之道之弱联网优化

14240
来自专栏草根专栏

.NET Core TDD 前传: 编写易于测试的代码 -- 缝

举个例子, 如果一辆汽车在产出后没完成测试, 那么没人敢去驾驶它. 代码也是一样的, 如果项目未能进行该做的测试, 那么客户就不敢去使用它, 即使使用了也会遇到...

12570
来自专栏Bug生活2048

这些数据库,你都用过吗

关系型数据库模型是把复杂的数据结构归结为简单的二元关系(即二维表格形式)。在关系型数据库中,对数据的操作几乎全部建立在一个或多个关系表格上,通过对这些关联的表格...

18110

扫码关注云+社区

领取腾讯云代金券