一、环境准备

1、架构选型

接下来我们进行初步的探视,利用测试环境体验下ELK Stack + Filebeat,测试环境我们就不进行 Kafka 的配置了,因为他的存在意义在于提高可靠性。

2、软件版本

Filebeat 6.4.0
Logstash 6.4.0
Elasticsearch 6.4.0
Kibana 6.4.0
JDK 1.8.0_181

3、服务器准备

IP 系统 角色
172.18.2.100 CentOS 7.4.1708 Logstash, ES, Kibana
172.18.2.101 CentOS 7.4.1708 Filebeat

4、SSH免秘钥

需要打通172.18.2.100至所有 agent 的 SSH 免密登录。

[root@ES ~]# ssh-copy-id 172.18.2.101

5、JDK安装

ELK 需要 Oracle 1.7(或者是 OpenJDK 1.7) 及以上,建议下载 Oracle 官方的 JDK,我们这里下载的是官方的 rpm 包。

rpm -ivh jdk-8u181-linux-x64.rpm

二、ELK 服务安装

ELK 官网对于每种软件提供了多种格式的安装包(zip/tar/rpm/DEB),以 Linux 系列系统为例,如果直接下载 RPM,可以通过 rpm -ivh path_of_your_rpm_file直接安装成系统 service。以后就可以使用 service 命令启停。比如service elasticsearch start/stop/status。很简单,我们主要就使用这种方式进行安装。

1、ElasticSearch

下载软件包(172.18.2.100)

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.4.0.rpm

安装

rpm -ivh elasticsearch-6.4.0.rpm

修改配置

修改/etc/elasticsearch/elasticsearch.yml

cluster.name: myes
node.name: es1.wzlinux.com
path.data: /var/lib/elasticsearch
path.logs: /var/log/elasticsearch
network.host: 172.18.2.100
http.port: 9200

启动ES

systemctl daemon-reload
systemctl start elasticsearch.service
systemctl enable elasticsearch.service

验证

[root@ES ~]# curl 'http://172.18.2.100:9200'
{
  "name" : "es1.wzlinux.com",
  "cluster_name" : "myes",
  "cluster_uuid" : "q54RkYTLTKuVaSytrTXiAg",
  "version" : {
    "number" : "6.4.0",
    "build_flavor" : "default",
    "build_type" : "rpm",
    "build_hash" : "595516e",
    "build_date" : "2018-08-17T23:18:47.308994Z",
    "build_snapshot" : false,
    "lucene_version" : "7.4.0",
    "minimum_wire_compatibility_version" : "5.6.0",
    "minimum_index_compatibility_version" : "5.0.0"
  },
  "tagline" : "You Know, for Search"
}

可以看到,它跟其他的节点的传输端口为9300,接受HTTP请求的端口为9200。

[root@ES ~]# netstat -tlnp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      903/sshd            
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      1001/master         
tcp6       0      0 172.18.2.100:9200       :::*                    LISTEN      11885/java          
tcp6       0      0 172.18.2.100:9300       :::*                    LISTEN      11885/java          
tcp6       0      0 :::22                   :::*                    LISTEN      903/sshd            
tcp6       0      0 ::1:25                  :::*                    LISTEN      1001/master         

2、Logstash

下载安装包(172.18.2.100)

wget https://artifacts.elastic.co/downloads/logstash/logstash-6.4.0.rpm

安装

rpm -ivh logstash-6.4.0.rpm

安装组件beats

一个Logstash的pipeline由3部分组成:input, filter, output。

集中式日志分析平台 Elastic Stack(部署)

在我们的架构中,Logstash的input是beats,output是ES,需要对应的插件。

cd /usr/share/logstash/
bin/logstash-plugin install logstash-input-beats

配置

修改文件/etc/logstash/conf.d/logstash.conf

input {
  beats {
    port => 5044
  }
}

output {
  elasticsearch {
    hosts => "172.18.2.100:9200"
    manage_template => false
    index => "%{[@metadata][beat]}-%{[@metadata][version]}-%{+YYYY.MM.dd}"
  }
}

Logstash 使用该配置使用 ES 的索引,和 Filebeat 做的事情是一样的,不过拥有了额外的缓存以及强大丰富的插件库。

启动

不知道大家是什么情况,我这里 systemctl 启动是有问题的,启动成功,但是端口没有监听,我这里直接使用命令行进行启动,指定配置文件路径,它会去加载conf.d目录下面的所有*.conf配置文件

/usr/share/logstash/bin/logstash  --path.settings /etc/logstash &>/dev/null &

查看启动

[root@ES ~]# netstat -tlnp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      903/sshd            
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      1001/master         
tcp6       0      0 172.18.2.100:9200       :::*                    LISTEN      23471/java          
tcp6       0      0 :::5044                 :::*                    LISTEN      26720/java          
tcp6       0      0 172.18.2.100:9300       :::*                    LISTEN      23471/java          
tcp6       0      0 :::22                   :::*                    LISTEN      903/sshd            
tcp6       0      0 ::1:25                  :::*                    LISTEN      1001/master         
tcp6       0      0 127.0.0.1:9600          :::*                    LISTEN      26720/java          

3、Filebeat

在172.18.2.101上进行Filebeat的安装,因为Filebeat是轻量级的,被采集端机器可以不用安装 JDK。

下载(172.18.2.101)

wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-6.4.0-x86_64.rpm

安装

rpm -ivh filebeat-6.4.0-x86_64.rpm
yum install nginx -y

这里我们安装一下epel源中的nginx服务,我们获取nginx的日志进行测试。

配置

修改/etc/filebeat/filebeat.yml,把日志输出指向logstash,关闭Elasticsearch output。

#=================== Filebeat inputs ===================
filebeat.inputs:
- type: log
  paths:
    - /var/log/nginx/*.log
#----------------------------- Logstash output --------------------------------
output.logstash:
  hosts: ["172.18.2.100:5044"]

添加 Index Pattern

  • 在 Elasticsearch 中, Index Pattern 用于定义字段应如何分析的设置和映射。
  • Filebeat 的默认 Index Pattern 由软件包安装。 如果使用默认的配置文件 filebeat.yml,则 Filebeat 在成功连接到Elasticsearch后会自动加载模板。 如果模板已存在,默认不会覆盖,但是可以通过配置进行覆盖。
  • 如果要禁用自动模板加载,或者要加载自己的模板,可以在Filebeat配置文件中更改模板加载的设置。

因为我们的输出不是 ES,所以我们需要手动添加 Index Pattern。

[root@node2 ~]# filebeat setup --template -E output.logstash.enabled=false -E 'output.elasticsearch.hosts=["172.18.2.100:9200"]'
Loaded index template

这一步骤只要顺序正确,其实也可以不用进行操作,可以略过。

启动

systemctl start filebeat

4、Kibana

Kibana 从 ES 获取数据做前端的可视化展示。 它提供了用户体验极佳的高定制化 UI,可以灵活配置出你需要的 Dashboard。 Dashboard 可以轻易的保存、链接和分享。

下载(172.18.2.100)

wget https://artifacts.elastic.co/downloads/kibana/kibana-6.4.0-x86_64.rpm

安装

rpm -ivh kibana-6.4.0-x86_64.rpm

配置

编辑/etc/kibana/kibana.yml

elasticsearch.url: "http://172.18.2.100:9200"
server.host: "172.18.2.100"

启动

systemctl daemon-reload
systemctl start kibana.service

查看

在浏览器中访问http://172.18.2.100:5601

集中式日志分析平台 Elastic Stack(部署)

三、配置 Kibana

1、配置 index pattern

访问http://172.18.2.100:5601,点击Discover,如下图。

集中式日志分析平台 Elastic Stack(部署)

集中式日志分析平台 Elastic Stack(部署)

一般来说,我们都需要访问一些日志之后,这里才会出现我们之前定义的 index。

2、访问 nginx 查看日志

集中式日志分析平台 Elastic Stack(部署)

集中式日志分析平台 Elastic Stack(部署)