简介
elasticsearch的mapping属于template的一部分,mapping主要用于设置document的有哪些字段,字段的类型,字段的参数,以实现字段如何被存储和如何被索引查询等特性。
mapping组成
一个mapping主要有两部分组成:
- metadata mapping 元数据字段用于自定义如何处理文档关联的元数据。例如: _index:用于定义document属于哪个index _type:document的type。从es6.x开始,一个index只能有一个type _id:document的唯一id _source:存放原始的document数据 _size:_source字段中存放的数据的大小
- fields mapping中包含的field,包含字段的类型和参数。本文主要介绍的mapping参数就需要在field中去定义。例如: type:设置字段对应的类型,常见的有text,keyword等
mapping参数
主要参数如下:
- analyzer 只能用于text字段,用于根据需求设置不通的分词器
- boost 默认值为1。用于设置字段的权重,主要应用于查询时候的评分
- coerce 默认是true。主要用于清理脏数据来匹配字段对应的类型。例如字符串“5”会被强制转换为整数,浮点数5.0会被强制转换为整数
- copy_to 能够把几个字段拼成一个字段。老字段和新组成的字段都可以查询
- doc_values 默认值为true。Doc Values和倒排索引同时生成,本质上是一个序列化的 列式存储。列式存储适用于聚合、排序、脚本等操作,也很适合做压缩。如果字段不需要聚合、排序、脚本等操作可以关闭掉,能节省磁盘空间和提升索引速度。
- dynamic 默认值为true。默认如果插入的document字段中有mapping没有的,会自动插入成功,并自动设置新字段的类型;如果一个字段中插入一个包含多个字段的json对象也会插入成功。但是这个逻辑可以做限制: 1.ture: 默认值,可以动态插入 2.false:数据可写入但是不能被索引分析和查询,但是会保存到_source字段。 3。strict:无法写入
- eager_global_ordinals 默认值为false。设置每refresh一次就创建一个全局的顺序映射,用于预加载来加快查询的速度。需要消耗一定的heap。
- enabled 默认值为true。设置字段是否索引分析。如果设置为false,字段不对此字段索引分析和store,会导致此字段不能被查询和聚合,但是字段内容仍然会存储到_source中。
- fielddata 默认值为false,只作用于text字段。默认text字段不能排序,聚合和脚本操作,可以通过开启此参数打开此功能。但是会消耗比较大的内存。
- fields 可以对一个字段设置多种索引类型,例如text类型用来做全文检索,再加一个keyword来用于做聚合和排序。
- format 用于date类型。设置时间的格式。具体见https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-date-format.html
- ignore_above 默认值为256,作用于keyword类型。指示该字段的最大索引长度(即超过该长度的内容将不会被索引分析),对于超过ignore_above长度的字符串,analyzer不会进行索引分析,所以超过该长度的内容将不会被搜索到。注意:keyword类型的字段的最大长度限制为32766个UTF-8字符,text类型的字段对字符长度没有限制
- ignore_malformed 默认为false。插入新document的时候,是否忽略字段的类型,默认字段类型必须和mapping中设置的一样
- index_options 默认值为positions,只作用于text字段。控制将哪些信息添加到倒排索引中以进行搜索和突出显示。有4个选项: 1.docs 添加文档号 2.freqs 添加文档号和次频 3.positions 添加文档号,词频,位置 4.offsets 添加文档号,词频,位置,偏移量
- index 默认值为true。设置字段是否会被索引分析和可以查询
- meta 可以给字段设置metedata字段,用于标记等
- normalizer 可以对字段做一些标准化规则,例如字符全部大小写等
- norms 默认值为true。默认会存储了各种规范化因子,在查询的时候使用这些因子来计算文档相对于查询的得分,会占用一部分磁盘空间。如果字段不用于检索,只是过滤,查询等精确操作可以关闭。
- null_value null_value意味着无法索引或搜索空值。当字段设置为 null , [] ,和 [null](这些null的表示形式都是等价的),它被视为该字段没有值。通过设置此字段,可以设置控制可以被索引和搜索。
- properties 如果这个字段有嵌套属性,包含了多个子字段。需要用到properties
- search_analyzer 默认值和analyzer相同。在查询时,先对要查询的text类型的输入做分词,再去倒排索引搜索,可以通过这个设置查询的分析器为其它的
- similarity 用于设置document的评分模型,有三个: 1.BM25:lucene的默认评分模型 2.classic:TF/IDF评分模型 3.boolean:布尔评分模型
- store 默认为false,lucene不存储原始内容,但是_source仍然会存储。这个属性其实是lucene创建字段时候的一个选项,表明是否要单独存储原始值(_source字段是elasticsearch单独加的和store没有关系)。如果字段比较长,从_source中获取损耗比较大,可以关闭_source存储,开启store。
- term_vector 默认值为no,不存储向量信息
总结
根据实际需要,来设置mapping参数,能够节省磁盘,内存,计算等资源。
参考
https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping.html https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-params.html https://www.elastic.co/guide/cn/elasticsearch/guide/current/_deep_dive_on_doc_values.html