前言

上篇文章末尾ES集群开启x-pack权限认证后,采用Restful的方式进行了集群简单的验增删改查操作。现在基于Kibana已安装完成的基础上,采用Dev-tools工具进行实战,开发环节中也建议采用这种方式,原因有下:

1)kibana 自带的 dev-tools 工具具有良好的提示功能
2)dev-tools 工具中开发方便快捷,具有较高的效率
3)最终要的一点是不容易出错

那么,此处呢就主要以 Kibana Dev-tools 工具为主,采用DSL语言进行讲述ElasticSearch中常用的的一些命令。



常用命令汇总

索引维护

查看所有索引

GET /_cat/indices

创建索引(并且指定分片数量)

PUT test
{
  "settings": {
    "number_of_shards": 2,
    "number_of_replicas": 2
  }
}

# 或者直接创建

PUT test

查看某个索引信息

GET test

添加数据(自定义ID)

PUT test/_doc/1
{
  "name":"测试1",
  "opercation":1,
  "location":"ad1,ad2,ad3"
}

添加数据(自动生成ID)

POST test/_doc
{
  "name":"test2"
}

批量插入数据

POST _bulk
{"index":{"_index":"tb_user","_id":1}}
{"user":"张三","addres":"广州"}
{"index":{"_index":"tb_user","_id":2}}
{"user":"李四","addres":"北京"}

批量查询多个索引

GET _mget
{
  "docs": [
    {
      "_index": "test",
      "_id": 1
    },
    {
      "_index": "tb_user",
      "_id": 1
    }
  ]
}

查询索引中多行数据

GET /tb_user/_doc/_mget
{
  "ids":["1","2"]
}

给索引添加字段

POST /tb_user/_doc/_update
{
  "field1":"广州市天河区"
}

设置字段类型

POST /tb_user/_mapping/_doc
{
    "properties": {
    "field1": {
      "type": "long"
    },
    "field2": {
      "type": "keyword"
    }
}

更新某条数据值

POST /test/_update/2
{
  "doc":{
    "age":40
  }
}

更新字段值(根据条件查询后更新)

POST /myindex/_update_by_query
{
  "script": {
    "source": "ctx._source.name=params.name; ctx._source.city=params.city",
    "long": "painless",
    "params": {
      "name": "test-name",
      "city": "北京"
    },
    "query": {
      "match": {
        "age": 40
      }
    }
  }
}

索引的关闭和打开

POST /tb_user/_close
POST /tb_user/_open

删除索引

DELETE testindex
DELETE myindex/_doc/2

根据查询条件进行删除

POST myindex/_delete_by_query
{
  "query":{
    "match":{
      "name":"张三"
    }
  }
}

索引搜索

查询记录是否存在

HEAD myindex/_doc/1

查询数量

GET tb_user/_count

查询最新数据记录(默认10条)

GET tb_user/_search

查询指定字段

GET tb_user/_search
{
  "_source": ["user","addres"]
}

查询最新1条数据记录

GET tb_user/_search?size=1

搜索(分页)

GET tb_user/_search
{
  "size": 20,
  "from": 1
}
或
GET tb_user/_search
{
  "size": 20,
  "from": 1,
  "query": {
    "match_all": {}
  }
}

搜索(根据条件分页)

GET tb_user/_search
{
  "query": {
    "match": {
      "user": "李四"
    }
  }
}

搜索(根据条件查询[全词匹配])

GET tb_user/_search
{
  "query": {
    "match": {
      "user.keyword": "李四"
    }
  }
}

搜索(复合查询:根据多个条件(must and must查询))

GET tb_user/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "addres": "广州"
          }
        },
        {
          "match": {
            "user": "test1"
          }
        }
      ]
    }
  }
}

搜索(复合查询:根据多个条件(must or should查询))

GET tb_user/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "addres": "广州"
          }
        }
      ],
      "should": [
        {
          "match": {
            "user": "赵六"
          }
        }
      ],
      "minimum_should_match": 1
    }
  }
}

主要参数:
must:文档必须匹配这些条件才能被包含进来。
must_not:文档必须不匹配这些条件才能被包含就来。
should:如果满足这些语句中的任意语句,将增加_score,否则无任何影响,主要用于修正每个文档的相关性得分。
filter:必须匹配,但他以不评分、过滤模式来进行,这些语句对评分没有贡献,只是根据过滤标准来排除或包含文档。

搜索(仅仅根据条件刷选数据(不做打分处理))

GET tb_user/_search
{
  "query": {
    "bool": {
      "filter": {
        "term": {
          "addres.keyword": "北京"
        }
      }
    }
  }
}

搜索(范围查询)

GET myindex/_search
{
  "query": {
    "range": {
      "age": {
        "gte": 40,
        "lte": 30
      }
    }
  }
}

搜索(查询是否存在该字段值的数据)

GET myindex/_search
{
  "query": {
    "exists": {
      "field": "location"
    }
  }
}

搜索(多个索引通配符查询)

GET tb_*/_search

搜索(批量查询)

GET /_msearch
{"index" : "myindex"}
{"query" : {"match_all" : {}}, "from" : 0, "size" : 10}
{"index" : "tb_user"}
{"query" : {"match_all" : {}}}
{"index" : "tb_car"}
{"query" : {"match_all" : {}}}

# 或者(当指定索引名称myindex时,查询条件可以直接使用{}表示默认索引)

GET myindex/_msearch
{}
{"query" : {"match_all" : {}}, "from" : 0, "size" : 10}
{"index" : "tb_user"}
{"query" : {"match_all" : {}}}
{}
{"query" : {"match_all" : {}}}

搜索(聚合分组范围统计)

GET myindex/_search
{
  "size": 0,
  "aggs": {
    "age_aggs_XXX": {
      "range": {
        "field": "age",
        "ranges": [
          {
            "from": 0,
            "to": 10
          },
          {
            "from": 20,
            "to": 30
          },
          {
            "from": 30,
            "to": 60
          }
        ]
      }
    }
  }
}

搜索(聚合分组统计)

GET myindex/_search
{
  "size": 0,
  "aggs": {
    "city_agges_nameXXX": {
      "terms": {
        "field": "age",
        "size": 5
      }
    }
  }
}

搜索(根据条件查询后聚合统计)

GET myindex/_search
{
  "size": 0, 
  "query": {
    "match": {
      "name": "test-name"
    }
  },
  "aggs": {
    "city_agges_xxx": {
      "terms": {
        "field": "city",
        "size": 5
      }
    }
  }
}

搜索(聚合统计个数)

GET myindex/_search
{
  "size": 0,
  "aggs": {
    "city_agges_xxx": {
      "cardinality": {
        "field": "city"
      }
    }
  }
}

搜索(多层聚合统计)

GET myindex/_search
{
  "size": 0,
  "aggs": {
    "city_agges_nameXXX": {
      "terms": {
        "field": "city",
        "size": 5
      },
      "aggs": {
        "avg_nameXXX": {
          "avg": {
            "field": "age"
          }
        }
      }
    }
  }
}

搜索(聚合统计函数)

GET myindex/_search
{
  "size": 0,
  "aggs": {
    "avg_nameXXX": {
      "avg": {
        "field": "age"
      }
    }
  }
}
 
GET myindex/_search
{
  "size": 0,
  "aggs": {
    "avg_nameXXX": {
      "percentiles": {
        "field": "age",
        "percents": [10,30,50,80,100]
      }
    }
  }
}

状态 & 统计相关命令清单

获取版本和集群名称等信息

GET /

获取集群健康状态等信息

包括集群名称、节点数、数据节点数、分片等的一些统计信息

GET /_cluster/health

获取节点列表信息

显示了堆内存、磁盘使用情况,CPU 、负载和主机角色。
用途:用来监视负载和磁盘使用情况以及主机角色。

GET /_cat/nodes?v&h=heap.percent,diskUsedPercent,cpu,load_1m,master,name&s=name

Index Level 索引层面健康

GET /_cluster/health?level=indices&pretty

Shard Level 分片层面健康

GET /_cluster/health?level=shards&pretty

获取集群统计状态信息

用途:有助于基本故障排除。

GET /_cluster/stats

获取节点级别的统计信息

包括堆使用情况等

GET /_nodes/stats

线程相关状态&统计命令清单

线程队列视图

GET /_cat/thread_pool?v&h=node_name,name,type,active,size,queue,queue_size,rejected,largest,completed,min,max&s=node_name,name

查看热点线程,用于排查CPU资源占用

GET /_nodes/hot_threads/

快速获取索引模式

例如:所有这些logstash *前缀索引的文档总数的方法。

GET /_cat/count/logstash*?v

索引相关状态&统计命令清单

通配符索引列表获取

包含:大小,文档计数,状态等。

GET /_cat/indices/logstash*?v

找到size 最大的索引

GET /_cat/indices/logstash-*?v&h=index,ss&s=ss:desc

获取状态为黄色的索引

GET /_cat/indices?v&health=yellow

红色 red:至少一个主分片不可用。
黄色 yellow:至少一个副本分片不可用。
绿色 green:集群主、副本分片都可用,集群健康。

设置相关清单

Elasticsearch中有许多设置,但最常见的是“集群”和“索引”级别。

集群设置

最基本的集群设置视图-显示非默认的持久性和瞬态设置信息。

GET /_cluster/settings

更大的列表视图-包括所有默认值,并使用平面视图使其更易于阅读。

GET /_cluster/settings?include_defaults=true&flat_settings=true

索引设置

获取指定索引的设置列表信息。

GET /logstash-cron-2020.08.03/_settings

获取索引的元信息、设置信息以及Mapping信息。

GET /logstash-cron-2020.08.03

关闭&删除索引

关闭索引

支持单个或者模糊匹配多个索引。

POST /logstash-*-2020.03.*/_close

删除索引

支持单个或者模糊匹配多个

DELETE /logstash-*-2020.04.*

故障排查清单

获取已分配和未分配的分片。

GET /_cat/shards?v&h=n,index,shard,prirep,state,sto,sc,unassigned.reason,unassigned.details&s=sto,index

查看未分配的分片及原因

GET _cat/shards?v&h=index,shard,prirep,state,unassigned.reason&s=state

查看未分配的细节说明信息

GET /_cluster/allocation/explain

查看指定分片未分配的细节

GET /_cluster/alloGET /_cluster/allocation/explain 
{ "index": "logstash-cloudtrail-2019.10.16", "shard": 0, "primary": true} cation/explain { "index": "logstash-cloudtrail-2019.10.16", "shard": 0, "primary": true}

下线节点

PUT _cluster/settings?pretty
{
  "transient": {
    "cluster.routing.allocation.exclude._ip": "10.0.0.1"
  }
}

模板清单

列举已定义的所有模板

GET /_cat/templates?v&s=order,name

列举指定名称的模板信息

GET /_template/logstash

快照&恢复

列出系统中配置的快照存储库

大多数其他API调用都需要这些名称。

GET /_snapshot

获取任何正在运行的快照的状态和统计信息

GET /_snapshot/_status

获取快照的有用信息

GET /_cat/snapshots/my_repository?v&h=id,status,start_time,duration,indicies,successful_shards,failed_shards,total_shards

分片分配与恢复清单

分片分配查看

GET /_cat/allocation?v

分片恢复查看

GET /_cat/recovery?v

运行任务查看

GET /_cat/pending_tasks?v

清理缓存

POST /_cache/clear



结语

以上命令清单由基础到高阶再到运维相关,较为全面,建议收藏,作为整个知识体系的完善与加固。另外强烈建议通过官网进行学习,熟悉官网的目录结构,以便在需要的时候可以快速定位找到自己想要的答案,毕竟官网才是最具权威的。


参考资料:

https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html https://www.elastic.co/guide/index.html