前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >ElasticSearch+Solr几个case笔记

ElasticSearch+Solr几个case笔记

作者头像
我是攻城师
发布2018-05-14 17:01:53
9500
发布2018-05-14 17:01:53
举报
文章被收录于专栏:我是攻城师我是攻城师
(一) 最大能索引字符串的长度

关于能索引最大的字符串长度,其实在Elasticsearch和Solr中都是由底层的Lucene决定的

(1)不分词+索引的字符串最大长度为32766字节

(2)分词+索引一般不会出现长度越界问题

(3)不索引的字符串虽然没有长度最大限制,但是不建议使用搜索引擎存储大量文本

(二)设置超出一定长度的字段,不索引

其实这个功能,也是由底层Lucene提供的,关于它的应用场景举个例子,大部分情况下,不分词的字段可能经常会被用来聚合,过滤,排序,分组,但是如果这个不分词的字段非常长,通常情况下是没有意义的,比如标题,小于40个字的,我们索引它,让它参与聚合,过滤,排序等,但如果大于40,我们则认为它不需要索引,从而节省索引的体积大小,来提高搜索性能。

如何设置?

(1)在ES中

代码语言:javascript
复制
"message": {          "ignore_above": 20, //超过20个字节,不索引该字段,注意对其他字段没有影响
          "index": "not_analyzed",          "type": "string"
        }

(2)在Solr中

代码语言:javascript
复制
<fieldType name="limit_len" class="solr.TextField">
    <analyzer>
      <tokenizer class="solr.KeywordTokenizerFactory"/>      //超过10个字节,就丢弃该字段,同样对其他字段没有影响
      <filter class="solr.LengthFilterFactory" min="0" max="10"/>
    </analyzer>
  </fieldType>
(三)ElasticSearch中动态mapping的三种校验模式

在ES中,一个mapping下面可以有多个type,每个type相当于一个表,type的检验模式有三种

代码语言:javascript
复制
//默认模式,开启动态模式,允许任何字段添加到该表中(1)"dynamic": true //关闭动态模式,不在定义的scheam中的字段,会自动忽略,不会报错(2)"dynamic": false//严格模式,不在定义的scheam中的字段,会拒绝索引,抛出异常(3)"dynamic": "strict"

注意type的schema是有校验模式的,但是每个mapping里面的type却是动态的,添加一个不存在的type并不会报错,es会自动识别它的schema里面的字段并给予其认为可能的字段类型

(四)ElasticSearch中queryString语法的一个小坑

ElasticSearch里面索引一个不分词的字段时候,如果不给设置自动转小写的filter,那么他就是数据本身,但是查询的时候,默认情况下es会给转成小写查。

举个例子: 索引name=Hadoop进入es索引,然后使用name=Hadoop查,你会发现使用querySting语法查不到,因为es自动把Hadoop转成了hadoop去查,这样以来肯定查不到,有点小坑,这个问题在Solr中是不存在的。

如何解决:

代码语言:javascript
复制
//更改es默认转小写的bool值为falseQueryBuilders.queryStringQuery("name:Hadoop").lowercaseExpandedTerms(false)
(五)ElasticSearch+Solr使用queryString语法的注意事项

lucene的默认的queryString语法,如果一个关键词里面带有空格,它会自动拆分成两个关键词进行检索,但有时我们就是查询带空格的关键词,应该怎么办呢?

举个例子:

不分词+索引字段content=Syntax error 进入es,solr或者lucene中

假如我想使用前缀模糊查询:

代码语言:javascript
复制
content:Syntax err*

上面的语法是查不到任何内容的,但是明明有这条数据,为什么查不到?就是因为lucene默认会把空格当做多个关键词分界线,这样以来查询就转化成了:

代码语言:javascript
复制
content:Syntaxdefault_field:err*

所以就查不到数据了,如何解决?

非常简单,转义这个空格即可,注意只能转义空格,不能对整个查询字符串进行转义:

代码语言:javascript
复制
content:Syntax\\ err*
本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2016-09-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 我是攻城师 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • ?
  • (一) 最大能索引字符串的长度
  • (二)设置超出一定长度的字段,不索引
  • (三)ElasticSearch中动态mapping的三种校验模式
  • (四)ElasticSearch中queryString语法的一个小坑
  • (五)ElasticSearch+Solr使用queryString语法的注意事项
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档