文章目录

  • Elasticsearch 介绍
  • Elasticsearch 简介
  • Elasticsearch 作用
  • Elasticsearch 核心概念
  • Elasticsearch特点和优势
  • 知识扩展


Elasticsearch 介绍

Elasticsearch 简介

Elasticsearch简称es，是一个开源得高扩展得分布式全文检索引擎，它可以近乎实时的存储、检索数据；本身扩展性很好，可以扩展到上百台服务器，处理PB级别的数据。

Elasticsearch使用Java开发，在Apache许可条款下开放源码发布，是当前流行的企业级搜索引擎。设计用于云计算中，能够达到实时搜索，稳定，可靠，快速，安装使用方便(也因此需要安装jdk才能运行es)

Elasticsearch使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，使得全文检索变得简单

Elasticsearch 作用

  1. 大数据存储，只要机器硬盘够，就能一直存储
  2. 数据安全，利用分片和副本来保证数据得完整性
  3. 大数据量得检索，通过倒排索引实现大数据检索
  4. 单点故障问题，通过分片和副本，能在某个节点挂了之后保证数据完整

Elasticsearch 核心概念

es核心也就是es架构

  1. 集群(Cluster)
    ES可以作为一个独立的单个搜索服务器。不过，为了处理大型数据集，实现容错和高可用性，ES可以运行在许多互相合作的服务器上。这些服务器的集合称为集群
  2. 节点(Node)
    形成集群的每个服务器称为节点。
  3. 分片(Shard)
    当有大量的文档时，由于内存的限制、磁盘处理能力不足、无法足够快的响应客户端的请求等，一个节点可能不够。这种情况下，数据可以分为较小的分片。每个分片放到不同的服务器上。
    当你查询的索引分布在多个分片上时，ES会把查询发送给每个相关的分片，并将结果组合在一起，而应用程序并不知道分片的存在。即：这个过程对用户来说是透明的
  4. 副本(Replia)
    为提高查询吞吐量或实现高可用性，可以使用分片副本。
    副本是一个分片的精确复制，每个分片可以有零个或多个副本。ES中可以有许多相同的分片，其中之一被选择更改索引操作，这种特殊的分片称为主分片。
    当主分片丢失时，如：该分片所在的数据不可用时，集群将副本提升为新的主分片。
  5. 全文检索
    全文检索就是对一篇文章进行索引，可以根据关键字搜索，类似于mysql里的like语句。
    全文索引就是把内容根据词的意义进行分词，然后分别创建索引，例如”今日是周日我们出去玩” 可能会被分词成：“今天“，”周日“，“我们“，”出去玩“ 等token，这样当你搜索“周日” 或者 “出去玩” 都会把这句搜出来

Elasticsearch特点和优势

  1. 分布式实时文件存储，可将每一个字段存入索引，使其可以被检索到。
  2. 实时分析的分布式搜索引擎。
    分布式：索引分拆成多个分片，每个分片可有零个或多个副本。集群中的每个数据节点都可承载一个或多个分片，并且协调和处理各种操作；
    负载再平衡和路由在大多数情况下自动完成。
  3. 可以扩展到上百台服务器，处理PB级别的结构化或非结构化数据。也可以运行在单台PC上
  4. 支持插件机制，分词插件(中文分词)、同步插件、可视化插件(kibana)等

知识扩展

  1. Lucene与Elasticsearch关系
  1. Lucene只是一个库。想要使用它，你必须使用Java来作为开发语言并将其直接集成到你的应用中，更糟糕的是，Lucene非常复杂，你需要深入了解检索的相关知识来理解它是如何工作的。
  2. Elasticsearch也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单
  1. Elasticsearch vs solr

solr介绍

solr 也是一个用java开发的企业级搜索引擎，传统企业喜欢用solr，互联网企业喜欢用es

  1. Solr是Apache Lucene项目的开源企业搜索平台。其主要功能包括全文检索、命中标示、分面搜索、动态聚类、数据库集成，以及富文本（如Word、PDF）的处理。
  2. Solr是高度可扩展的，并提供了分布式搜索和索引复制。Solr是最流行的企业级搜索引擎，Solr4 还增加了NoSQL支持。
  3. Solr是用Java编写、运行在Servlet容器（如 Apache Tomcat 或Jetty）的一个独立的全文搜索服务器。 Solr采用了 Lucene Java 搜索库为核心的全文索引和搜索，并具有类似REST的HTTP/XML和JSON的API。
  4. Solr强大的外部配置功能使得无需进行Java编码，便可对 其进行调整以适应多种类型的应用程序。Solr有一个插件架构，以支持更多的高级定制

比较总结

Solr 利用 Zookeeper 进行分布式管理，而 Elasticsearch 自身带有分布式协调管理功能
Solr 支持更多格式的数据，而 Elasticsearch 仅支持json文件格式
Solr 官方提供的功能更多，而 Elasticsearch 本身更注重于核心功能，高级功能多有第三方插件提供
Solr 在传统的搜索应用中表现好于 Elasticsearch，但在处理实时搜索应用时效率明显低于 Elasticsearch
Solr 是传统搜索应用的有力解决方案，但 Elasticsearch 更适用于新兴的实时搜索应用

二者安装都很简单

  1. Elasticsearch与Mysql

es大数据工具 大数据平台es_Elastic

  1. 关系型数据库中的数据库（DataBase），等价于ES中的索引（Index）
  2. 一个数据库下面有N张表（Table），等价于1个索引Index下面有N多类型（Type），
  3. 一个数据库表（Table）下的数据由多行（ROW）多列（column，属性）组成，等价于1个Type由多个文档（Document）和多Field组成。
  4. 在一个关系型数据库里面，schema定义了表、每个表的字段，还有表和字段之间的关系。 与之对应的，在ES中：Mapping定义索引下的Type的字段处理规则，即索引如何建立、索引类型、是否保存原始索引JSON文档、是否压缩原始JSON文档、是否需要分词处理、如何进行分词处理等。
  5. 在数据库中的增insert、删delete、改update、查search操作等价于ES中的增PUT/POST、删Delete、改_update、查GET.1.7
  1. ELK介绍

ELK=elasticsearch+Logstash+kibana
elasticsearch：后台分布式存储以及全文检索
logstash: 日志加工、“搬运工”
kibana：数据可视化展示。
ELK架构为数据分布式存储、可视化查询和日志解析创建了一个功能强大的管理链。 三者相互配合，取长补短，共同完成分布式大数据处理工作。

也可以基于此进行扩展，例如当数据量大时加入Kafka，或者自己写日志加工逻辑