Elastic 已经形成了一个较为庞大的生态,这个生态的核心就是 Elasticsearch。初学者的重点就是如何快速地了解并使用 Elasticsearch,本文总结了 Elasticsearch 的 8 大核心概念和安装、用法,15 分钟实现入门并且掌握 Elasticsearch 的简单使用。
下载 Elasticsearch 安装包
下载 Elasticsearch 安装包,并解压缩,本文以 6.3.0 版本为例。
$ wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.0.tar.gz
$ tar -zxvf elasticsearch-6.3.0.tar.gz
修改配置文件(可选)
修改配置文件是可选的一个步骤,只是为了向大家展示 Elasticsearch 一些基本的配置项,大家可以选择性配置,亦可以跳过使用默认配置。
#集群名字,elasticsearch使用集群名字来加入某一个集群,默认为elasticsearch
cluster.name: my-application
#节点名字
node.name: node-1
node.attr.rack: r1
#数据存放路径
path.data: /home/elastic/data
#日志存放路径
path.logs: /home/elastic/logs
#对外发布的IP
network.host: 192.168.56.11
#http访问的端口
http.port: 9200
#是否开启xpack安全配置
xpack.security.enabled: false
#添加跨域配置
http.cors.enabled: true
http.cors.allow-origin: "*"
修改文件描述符和最大线程数限制
切换到 root 用户,修改/etc/security/limits.conf 配置文件,添加以下内容并保存。
* soft nofile 65536
* hard nofile 131072
* soft nproc 4096
* hard nproc 4096
以上的配置是因为 ElasticSearch 的运行对最大的文件描述符以及最大线程数有要求,默认值 4096 和 2048 太小了,若无以上配置,启动过程中会报如下错误。
max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]
[1]: max number of threads [2048] for user [elastic] is too low, increase to at least [4096]
修改 max_map_count 参数
打开/etc/sysctl.conf 配置文件,添加如下内容并保存,执行sysctl -p
命令生效。
vm.max_map_count=262144
以上的配置也是因为 Elasticsearch 对虚拟内存空间有一定的要求,设置太小启动将会报如下错误
max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
关闭系统防火墙(可选)
$ systemctl stop firewalld.service
$ systemctl status firewalld.service
启动 Elasticsearch
经过以上配置,就可以执行以下命令启动 Elasticsearch,进入 Elasticsearch 根目录,执行以下命令
$ bin/elasticsearch
如果看到以下日志,代表已经正常启动
[2019-01-13T08:41:29,796][INFO][c.f.s.h.SearchGuardHttpServerTransport] [node-1] publish_address {10.0.2.15:9200}, bound_addresses {[::]:9200}
[2019-01-13T08:41:29,796][INFO ][o.e.n.Node ] [node-1] started
验证 Elasticsearch
Elasticsearch 支持标准的 HTTP 协议,支持 Restful API,在 Linux 下我们可以使用 curl 命令或者在浏览器输入如下 URL,若有正常输出 Elasticsearch 集群信息,证明已经正常运行。
$ curl -X GET http://localhost:9200
{
"name" : "node-1",
"cluster_name" : "my-application",
"cluster_uuid" : "C2ILS_NVRM-S-JPFFsHhUg",
"version" : {
"number" : "6.3.0",
"build_flavor" : "default",
"build_type" : "zip",
"build_hash" : "424e937",
"build_date" : "2018-06-11T23:38:03.357887Z",
"build_snapshot" : false,
"lucene_version" : "7.3.1",
"minimum_wire_compatibility_version" : "5.6.0",
"minimum_index_compatibility_version" : "5.0.0"
},
"tagline" : "You Know, for Search"
}
Elasticsearch 提供一整套的 Rest API 用以支持各种索引、文档、搜索等操作。这里我们简单以索引的创建、查询和删除为例子来了解如何操作 Elasticsearch。
新建索引
在 Elasticsearch 中,文档存储在索引中,查询也是从索引中查询,可以类比为传统关系数据库中的数据库(这个比喻不太准确,但有助于初始的理解)。以下使用标准的 HTTP PUT 方法发起创建索引的请求来新建一个索引,如下创建一个名字为 customer 的索引,pretty 参数表示 response 以方便读取的 JSON 格式返回,返回值如下,表示索引已经创建成功。
$ curl -X PUT "http://localhost:9200/customer?pretty"
{
"acknowledged":true,
"shards_acknowledged":true
}
查询索引
同样地使用 HTTP GET 方法向 Elasticsearch 集群查询在步骤一已经创建的索引
$ curl -X GET "localhost:9200/my-index-000001?pretty"
删除索引
同样地,使用 HTTP DELETE 方法可以删除一个索引,一旦删除了某个索引,这个索引下所有的分片、文档都会被删除,这是一个需要非常慎重的操作。 当看到以下的返回值时,代表已经删除成功。也可以重新使用索引查询方法进行查询,可以发现已经查询不到此索引。
$ curl -X DELETE "http://localhost:9200/customer?pretty"
{
"acknowledged": true
}
Elasticsearch 中的数据以文档 document 的形式存储在索引中,Elasticsearch 提供了一系列的_doc Rest API
用来操作 document 的增删改查,下面以已经创建的 customer 索引为基础,实践一下对于 Elasticsearch 中 document 的操作。
创建文档
使用 HTTP PUT 方法可以往索引中新建一个 document,如下请求为创建一个新的 document,存储在 customer 索引下,指定了其 document id 为 1,如果不指定的话 Elasticsearch 会自动生成一个 id。
$ curl -X PUT "http://localhost:9200/customer/_doc/1?pretty" -H 'Content-Type: application/json' -d'
{
"name": "Elastic Expert"
}
'
{
"_index": "customer",
"_type": "_doc",
"_id": "1",
"_version": 2,
"result": "updated",
"_shards": {
"total": 2,
"successful": 1,
"failed": 0
},
"_seq_no": 1,
"_primary_term": 2
}
如果创建成功, 会返回如下的响应信息,其中"index"指明了索引名称,"version"代表了文档的版本,shards"指明了本次操作涉及 2 个分片,"successful"代表创建文档的操作成功的只有 1 个分片,这是因为其中一个分片是副本分片,而本次实验的集群只是本地的一个节点,为了实现高可用,主分片和副本分片不会被分配到同一个节点上,所以这里副本分片没有被分配。
查询文档
使用 HTTP GET 方法,可以通过 document id 查询 document,返回值如下,可以发现实际存储的内容放在了 source 字段。
$ curl -X GET "http://localhost:9200/customer/_doc/1?pretty"
{
"_index": "customer",
"_type": "_doc",
"_id": "1",
"_version": 2,
"found": true,
"_source": {
"name": "Elastic Expert"
}
}
修改文档
使用 HTTP POST 请求修改一个 document,例如使用_update
API 将上一步骤创建的 document name 的值改为“Test Name” 。
$ curl -X POST "http://localhost:9200/customer/_doc/1/_update?pretty" -H 'Content-Type:application/json' -d'
{
"doc": { "name": "New Elastic Expert" }
}'
返回值如下,可以发现_version 字段的值已经改变了,证明我们的更新成功了,当然,也可以使用查询 API 重新查询确认。
{
"_index": "customer",
"_type": "_doc",
"_id": "1",
"_version": 3,
"result": "updated",
"_shards": {
"total": 2,
"successful": 1,
"failed": 0
},
"_seq_no": 2,
"_primary_term": 2
}
删除文档
使用 HTTP DELETE 方法,通过指定 document id 可以删除对应的 document 。返回值如下代表删除成功
$ curl -X DELETE "http://localhost:9200/customer/_doc/1?pretty"
返回值中"result"的值为"deleted"代表已经删除成功,值得一提的是,在 Elasticsearch 中,删除的文档不是直接从物理上立刻删除,而是标记为删除,等待一个时机到来以后才会真实地从物理上进行删除。
{
"_index": "customer",
"_type": "_doc",
"_id": "1",
"_version": 4,
"result": "deleted",
"_shards": {
"total": 2,
"successful": 1,
"failed": 0
},
"_seq_no": 3,
"_primary_term": 2
}
我们已经掌握了 Elasticsearch 创建索引,增加和更新文档的操作,下来就是重头戏搜索。Elasticsearch 天生具备搜索的强支持能力,与 document、index 一样,有一套专门的_search API 来支持搜索功能,还有很多的搜索特性,不同的搜索类型,搜索功能较为复杂。在本小节只介绍最简单的搜索 API,以期能快速进入 Elasticsearch 搜索的大门。
数据搜索基本使用 HTTP GET 方法,_search API 根据查询参数的位置的不同支持两种形式:
搜索参数放在 request body
将 query 参数放在 HTTP 请求的 request body 中发起查询,匹配条件指定为 match_all 代表匹配所有的文档,这种查询方式使用的是 Elasticsearch 的 query DSL 语法 。
$ curl -X GET "http://localhost:9200/customer/_search?pretty" -H 'Content-Type: application/json' -d'
{
"query": { "match_all": {} }
}
'
搜索参数放在 request uri
查询参数放在 HTTP 请求的 request uri 上作为 query parameter,q=*使用模糊匹配的方式,代表查询 customer 索引下所有的 document。
$ curl -X GET "http://localhost:9200/customer/_search?q=*&pretty"
返回值如下,shards.total 代表总共 5 个分片,shards.successful 为 5 代表 5 个分片全部成功进行了查询,hits 段代表查询的结果,hits.total 为 1 代表符合条件的 document 数量为 1。
{
"took": 17,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"skipped": 0,
"failed": 0
},
"hits": {
"total": 1,
"max_score": 1.0,
"hits": [
{
"_index": "customer",
"_type": "_doc",
"_id": "2",
"_score": 1.0,
"_source": {
"name": "Elastic Expert"
}
}
]
}
}
经过以上的实践,相信基本上可以简单的掌握 Elasticsearch 的基础用法以及对相关的核心概念都有了一定的认识,接下来跟我一起深入学习 Elasticsearch 的核心功能吧。