专栏首页高性能服务器开发强大的搜索开源框架Elastic Search介绍

强大的搜索开源框架Elastic Search介绍

项目背景

近期工作需要,需要从成千上万封邮件中搜索一些关键字并返回对应的邮件内容,经调研我选择了Elastic Search。

Elastic Search简介

Elasticsearch ,简称ES 。是一个全文搜索服务器,也可以作为NoSQL 数据库,存储任意格式的文档和数据,同时,也可以做大数据的分析,是一个跨界开源产品。ES 有如下特点:

  • 全文搜索引擎, ES 是建立在Lucene 上的开源搜索引擎,可以用来进行全文搜索、地理信息搜索。Wikipedia、 GitHub 、StackOverFlow 等网站均使用ES
  • 文档存储和查询,可以像NoSQL 那样存储任意格式文档,井能根据条件查询文档。
  • 大数据分析, ES 号称能准确实时地进行大数据分析,数据量从TB 到PB ,国内外很多大公司都用ES 做大数据分析。
  • ES 提供了阻REST API ,用来简化对ES 的操作。因此可以使用任何语言的客户端,同时也提供Java API。
  • ES常常配合传统数据库一起使用, ES用来负责大数据的查询、搜索、统计分析。

Elastic Search安装

安装过程参考:

https://www.cnblogs.com/xxoome/p/6663993.html

(可以在文章底部点击"查看原文"来阅读进入这个连接。)

Elastic Search下载地址:

https://www.elastic.co/downloads/elasticsearch

我的相关系统版本号: 版本号: 6.3.1 jdk: 1.8 操作系统: CentOS 7.0

安装中文插件

默认Elastic Search对中文搜索不是很友好,需要安装相应的插件,安装方法:

  1. 进入elastic search安装目录,如/usr/local/elasticsearch/elasticsearch-6.3.1/bin,执行
./elasticsearch-plugin install analysis-smartcn

Elastic Search 的基本概念

ES 有一些基本概念, 掌握这些基本概念对理解ES 有很大帮助。

  1. Index, Index 是文档( Document )的集合, Index 下面包含了Type ,用于对Document进一步分类。可以理解为ES 中的Index 相当于数据库,而Type 相当于数据库中的表,ES 中可以轻易地联合Index 和Type 来搜索数据,数据库却不能。
  2. Type ,用来进一步组织Document , 一个Index 下可以有多个Type ,比如用户信息是一个Type ,用户的支付记录是一个Type 。
  3. Document , 文档是ES 能够存储和搜索的基本信息,类似数据库表行数据, Document为JSON 格式,文档属于Type 。
  4. Node (节点〉,节点是集群里的一台ES Server ,用于文档的存储和查询。应用可以只有一个节点,也可以由上百个节点组成集群来存储和搜索数据。每个节点都有一个节点名字,以及所属集群的名字。
  5. 集群,同样集群名的节点将组合为ES 集群,用来联合完成数据的存储和搜索。默认的集群名字是e lasticsearch 。 分区( Shards )和复制( Replicas ),每个Index 理论上都可以包含大量的数据,超过了单个节点的存储限制,而且,单个节点处理那么大的数据,将明显限制存储和搜索性能。为了解决这个问题, E S 会进一步将Index 在物理上细分为多个分区,而且这些分区会按照配置复制到多个节点, Index 的分区称为主分区,复制的分区称为复制分区。这样的好处是既保证数据不会丢失,又提高了查询的性能。

使用REST 访问Elastic Search示例(这里使用linux curl命令模拟http请求)

添加文档

curl  -XPOST  'http://192.168.111.130:9200/index-instance/type-instance/1?pretty ' -H  'Content-Type:application/json'  -d '
{
"name ": "携程业务名称",
"type": "department",
"postDate": "2018-07-15",
"message": "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
}
'

curl  -XPOST  'http://192.168.111.130:9200/index-instance/type-instance/2?pretty ' -H  'Content-Type:application/json'  -d '
{
"name ": "携程业务名称",
"type": "department",
"postDate": "2018-07-15",
"message": "携程的酒店服务非常好。"
}
'

说明:这里增加两条记录,index-instance 表示Index , type-instance表示Type ,数字1和2是文挡的主键,主键可以是任意形式,如果未指定主键, ES 会自动生成一个唯一主键, pretty是可选的, ES 输出的时候会格式化输出结果,更加美观。

执行成功会输出:

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "1",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 0,
  "_primary_term" : 1
}

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "2",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
    "total" : 2,
    "successful" : 1,
    "failed" : 0
  },
  "_seq_no" : 0,
  "_primary_term" : 1
}

根据主键查询

curl -XGET  'http://192.168.111.130:9200/index-instance/type-instance/1?pretty'

说明: 1是主键。

如果存在结果,则返回:

{
  "_index" : "index-instance",
  "_type" : "type-instance",
  "_id" : "1",
  "_version" : 1,
  "found" : true,
  "_source" : {
    "name " : "携程业务名称",
    "type" : "department",
    "postDate" : "2018-07-15",
    "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
  }
}

搜索文档

ES 提供了强大的搜索功能,搜索参数可以在url 后面,也可以放到body 中。使用GET 方法:

curl  -G  --data-urlencode  'q=message:机票'  'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'

说明:这里搜索“机票”,返回:

{
  "took" : 85,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 1,
    "max_score" : 0.68324494,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.68324494,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

再次搜索“酒店”:

curl  -G  --data-urlencode  'q=message:酒店'  'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'

返回:

{
  "took" : 9,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 2,
    "max_score" : 0.5753642,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "2",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程的酒店服务非常好。"
        }
      },
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

使用POST搜索:

curl  -XPOST 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"query" : {
 "match": {"message": "酒店"}
 }
}
'

返回同样的结果:

{
  "took" : 8,
  "timed_out" : false,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : 2,
    "max_score" : 0.5753642,
    "hits" : [
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "2",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程的酒店服务非常好。"
        }
      },
      {
        "_index" : "index-instance",
        "_type" : "type-instance",
        "_id" : "1",
        "_score" : 0.5753642,
        "_source" : {
          "name " : "携程业务名称",
          "type" : "department",
          "postDate" : "2018-07-15",
          "message" : "携程有很多业务,如酒店、机票、火车票、旅游、度假等"
        }
      }
    ]
  }
}

注意:因为关键字中含有中文,需要curl进行url编码,所以curl使用参数--data-urlencode,参数-G表示这是一个GET请求,如果不加-G,则默认使用POST请求,则导致elastic search返回一个406不支持的POST错误请求响应。hits 包含了查询结果,在本例中, 只有2 条,_index 是index-instance , _type 是type-instance , 主键是1和2, _score 是搜索引擎概念, 表示查询相关度, 分数越高,表示此文档与关键字期望的结果的匹配程度高。

除了全文搜索,也可精确搜索,使用term进行精确搜索:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {
     "term": { "type": "department"}
 }
}
'

这里查找关键字值food。 如果需要使用翻页功能可以使用:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_search?pretty'  -H 'Content-Type:application/json'  -d'
{
"from": 0, "size": 5,
"query": {
     "term": { "type": "department"}
 }
}
'

如果需要知道查询总数,则使用_count代替_search:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_count?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {
     "term": { "type": "department"}
 }
}
'

返回结果:

{
  "count" : 2,
  "_shards" : {
    "total" : 5,
    "successful" : 5,
    "skipped" : 0,
    "failed" : 0
  }
}

如果要联合条件查询, 则可以使用must 关键字:

curl  -XGET 'http://192.168.111.130:9200/index-instance/type-instance/_count?pretty'  -H 'Content-Type:application/json'  -d'
{
"query": {  
    "bool":{  
        "must": { "match": {" message": "酒店"}},  
        "must": {"term":  { "type": "IT" } }  
   }    
 }
}
'

由于这是一篇科普类文章,所以简单地介绍了一下ES的用法,更多高级用法可参考ES官网。

本文分享自微信公众号 - 高性能服务器开发(easyserverdev)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Redis的过期删除策略和内存淘汰机制

    在设置key的过期时间的同时,为该key创建一个定时器,让定时器在key的过期时间来临时对key进行删除。 优点: 保证内存被尽快释放。 缺点: 1)若过期ke...

    范蠡
  • 一封情书

    亲爱的小芳姑娘:   你好呀!茫茫人海中,我们因路由器而邂逅,因网线而相识,因无线而相知。自从第一眼看见你,你就犹如一鲁棒的系统而深深地吸引了我:你如C脱胎于...

    范蠡
  • 经典面试题(三)之网络通信题目集锦

    1. TCP/IP协议栈层次结构 2. TCP三次握手需要知道的细节点 3. TCP四次挥手需要知道的细节点(CLOSE_WAIT、TIME_WAIT、MSL)...

    范蠡
  • 如何用深度学习来做检索:度量学习中关于排序损失函数的综述

    检索网络对于搜索和索引是必不可少的。深度学习利用各种排名损失来学习一个对象的嵌入 —— 来自同一类的对象的嵌入比来自不同类的对象的嵌入更接近。本文比较了各种著名...

    公众号机器学习与生成对抗网络
  • 17、Map接口及其常用子类(Hashtable、HashMap、WeakHashMap)

    17、Map接口   Map没有继承Collection接口,Map提供key到value的映射。一个Map中不能包含相同的key,每个key只能映射一个val...

    YGingko
  • Flutter 拖拽控件Draggable看这一篇就够了

    Draggable组件有2个必须填写的参数,child参数是子控件,feedback参数是拖动时跟随移动的组件,用法如下:

    老孟Flutter
  • Flutter 拖拽控件Draggable看这一篇就够了

    Draggable组件有2个必须填写的参数,child参数是子控件,feedback参数是拖动时跟随移动的组件,用法如下:

    老孟Flutter
  • 基本的文件操作

    文件是操作系统为用户或应用程序提供的读写硬盘的虚拟单位,有了文件我们可以读取数据,没有文件的话应该去在硬盘上扣动机械手臂然后寻找数据

    py3study
  • Linux Java 初始化配置

    Linux 可能自带 openjdk,先将其卸载,之后官网下载再进行安装。 卸载自带 openjdk $ rpm -qa | grep java $ rpm ...

    康怀帅
  • 分类算法实例五:用KD Tree查找最近邻

    (1)KD Tree的适用场景 KD Tree是密度聚类(DBSCAN)算法中计算样本和核心对象之间距离来获取最近邻以及KNN算法中用于计算最近邻的快速、便捷...

    魏晓蕾

扫码关注云+社区

领取腾讯云代金券