简介

elasticsearch的mapping属于template的一部分,mapping主要用于设置document的有哪些字段,字段的类型,字段的参数,以实现字段如何被存储和如何被索引查询等特性。

mapping组成

一个mapping主要有两部分组成:

  • metadata mapping 元数据字段用于自定义如何处理文档关联的元数据。例如: _index:用于定义document属于哪个index _type:document的type。从es6.x开始,一个index只能有一个type _id:document的唯一id _source:存放原始的document数据 _size:_source字段中存放的数据的大小
  • fields mapping中包含的field,包含字段的类型和参数。本文主要介绍的mapping参数就需要在field中去定义。例如: type:设置字段对应的类型,常见的有text,keyword等

mapping参数

主要参数如下:

  • analyzer 只能用于text字段,用于根据需求设置不通的分词器
  • boost 默认值为1。用于设置字段的权重,主要应用于查询时候的评分
  • coerce 默认是true。主要用于清理脏数据来匹配字段对应的类型。例如字符串“5”会被强制转换为整数,浮点数5.0会被强制转换为整数
  • copy_to 能够把几个字段拼成一个字段。老字段和新组成的字段都可以查询
  • doc_values 默认值为true。Doc Values和倒排索引同时生成,本质上是一个序列化的 列式存储。列式存储适用于聚合、排序、脚本等操作,也很适合做压缩。如果字段不需要聚合、排序、脚本等操作可以关闭掉,能节省磁盘空间和提升索引速度。
  • dynamic 默认值为true。默认如果插入的document字段中有mapping没有的,会自动插入成功,并自动设置新字段的类型;如果一个字段中插入一个包含多个字段的json对象也会插入成功。但是这个逻辑可以做限制: 1.ture: 默认值,可以动态插入 2.false:数据可写入但是不能被索引分析和查询,但是会保存到_source字段。 3。strict:无法写入
  • eager_global_ordinals 默认值为false。设置每refresh一次就创建一个全局的顺序映射,用于预加载来加快查询的速度。需要消耗一定的heap。
  • enabled 默认值为true。设置字段是否索引分析。如果设置为false,字段不对此字段索引分析和store,会导致此字段不能被查询和聚合,但是字段内容仍然会存储到_source中。
  • fielddata 默认值为false,只作用于text字段。默认text字段不能排序,聚合和脚本操作,可以通过开启此参数打开此功能。但是会消耗比较大的内存。
  • fields 可以对一个字段设置多种索引类型,例如text类型用来做全文检索,再加一个keyword来用于做聚合和排序。
  • format 用于date类型。设置时间的格式。具体见https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-date-format.html
  • ignore_above 默认值为256,作用于keyword类型。指示该字段的最大索引长度(即超过该长度的内容将不会被索引分析),对于超过ignore_above长度的字符串,analyzer不会进行索引分析,所以超过该长度的内容将不会被搜索到。注意:keyword类型的字段的最大长度限制为32766个UTF-8字符,text类型的字段对字符长度没有限制
  • ignore_malformed 默认为false。插入新document的时候,是否忽略字段的类型,默认字段类型必须和mapping中设置的一样
  • index_options 默认值为positions,只作用于text字段。控制将哪些信息添加到倒排索引中以进行搜索和突出显示。有4个选项: 1.docs 添加文档号 2.freqs 添加文档号和次频 3.positions 添加文档号,词频,位置 4.offsets 添加文档号,词频,位置,偏移量
  • index 默认值为true。设置字段是否会被索引分析和可以查询
  • meta 可以给字段设置metedata字段,用于标记等
  • normalizer 可以对字段做一些标准化规则,例如字符全部大小写等
  • norms 默认值为true。默认会存储了各种规范化因子,在查询的时候使用这些因子来计算文档相对于查询的得分,会占用一部分磁盘空间。如果字段不用于检索,只是过滤,查询等精确操作可以关闭。
  • null_value null_value意味着无法索引或搜索空值。当字段设置为 null , [] ,和 [null](这些null的表示形式都是等价的),它被视为该字段没有值。通过设置此字段,可以设置控制可以被索引和搜索。
  • properties 如果这个字段有嵌套属性,包含了多个子字段。需要用到properties
  • search_analyzer 默认值和analyzer相同。在查询时,先对要查询的text类型的输入做分词,再去倒排索引搜索,可以通过这个设置查询的分析器为其它的
  • similarity 用于设置document的评分模型,有三个: 1.BM25:lucene的默认评分模型 2.classic:TF/IDF评分模型 3.boolean:布尔评分模型
  • store 默认为false,lucene不存储原始内容,但是_source仍然会存储。这个属性其实是lucene创建字段时候的一个选项,表明是否要单独存储原始值(_source字段是elasticsearch单独加的和store没有关系)。如果字段比较长,从_source中获取损耗比较大,可以关闭_source存储,开启store。
  • term_vector 默认值为no,不存储向量信息

总结

根据实际需要,来设置mapping参数,能够节省磁盘,内存,计算等资源。

参考

https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping.html https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-params.html https://www.elastic.co/guide/cn/elasticsearch/guide/current/_deep_dive_on_doc_values.html