Prometheus+Grafana+alertmanager构建企业级监控系统（二）

 

node-exporter组件安装和配置

机器规划：

我的实验环境使用的k8s集群是一个master节点和一个node节点

master节点的机器ip是192.168.1.100，主机名是master1

node节点的机器ip是192.168.1.120，主机名是node1

安装包获取：https://github.com/hanhan0871/k8s-Prometheus-Grafana-Alertmanager

安装node-exporter

[root@master1 ~]# kubectl create ns monitor-sa

[root@master1 ~]# docker load -i node-exporter.tar.gz

[root@node1 ~]# docker load -i node-exporter.tar.gz

 

cat  node-export.yaml 

apiVersion: apps/v1
kind: DaemonSet 
metadata:
  name: node-exporter
  namespace: monitor-sa
  labels:
    name: node-exporter
spec:
  selector:
    matchLabels:
     name: node-exporter
  template:
    metadata:
      labels:
        name: node-exporter
    spec:
      hostPID: true
      hostIPC: true
      hostNetwork: true
# hostNetwork、hostIPC、hostPID都为True时，表示这个Pod里的所有容器，会直接使用宿主机的网络，直接与宿主机进行IPC（进程间通信）通信，可以看到宿主机里正在运行的所有进程。加入了hostNetwork:true会直接将我们的宿主机的9100端口映射出来，从而不需要创建service 在我们的宿主机上就会有一个9100的端口

      containers:
      - name: node-exporter
        image: prom/node-exporter:v0.16.0
        ports:
        - containerPort: 9100
        resources:
          requests:
            cpu: 0.15  #这个容器运行至少需要0.15核cpu
        securityContext:
          privileged: true  #开启特权模式
        args:
        - --path.procfs  #配置挂载宿主机（node节点）的路径
        - /host/proc
        - --path.sysfs  #配置挂载宿主机（node节点）的路径
        - /host/sys
        - --collector.filesystem.ignored-mount-points
        - '"^/(sys|proc|dev|host|etc)($|/)"'

#通过正则表达式忽略某些文件系统挂载点的信息收集
        volumeMounts:
        - name: dev
          mountPath: /host/dev
        - name: proc
          mountPath: /host/proc
        - name: sys
          mountPath: /host/sys
        - name: rootfs
          mountPath: /rootfs

#将主机/dev、/proc、/sys这些目录挂在到容器中，这是因为我们采集的很多节点数据都是通过这些文件来获取系统信息的。
      tolerations:
      - key: "node-role.kubernetes.io/master"
        operator: "Exists"
        effect: "NoSchedule"
      volumes:
        - name: proc
          hostPath:
            path: /proc
        - name: dev
          hostPath:
            path: /dev
        - name: sys
          hostPath:
            path: /sys
        - name: rootfs
          hostPath:
            path: /

 

 

 

#通过kubectl apply更新node-exporter.yaml文件

[root@master1]# kubectl apply -f node-export.yaml

#查看node-exporter是否部署成功

[root@master1]# kubectl get pods -n monitor-sa

显示如下，看到pod的状态都是running，说明部署成功

NAME                  READY   STATUS    RESTARTS   AGE

node-exporter-9qpkd   1/1     Running   0          89s

node-exporter-zqmnk   1/1     Running   0          89s

 

通过node-exporter采集数据

curl  http://主机ip:9100/metrics

#node-export默认的监听端口是9100，可以看到当前主机获取到的所有监控数据

 

curl http://192.168.1.100:9100/metrics | grep node_cpu_seconds

# HELP node_cpu_seconds_total Seconds the cpus spent in each mode.

# TYPE node_cpu_seconds_total counter

node_cpu_seconds_total{cpu="0",mode="idle"} 72963.37

node_cpu_seconds_total{cpu="0",mode="iowait"} 9.35

node_cpu_seconds_total{cpu="0",mode="irq"} 0

node_cpu_seconds_total{cpu="0",mode="nice"} 0

node_cpu_seconds_total{cpu="0",mode="softirq"} 151.4

node_cpu_seconds_total{cpu="0",mode="steal"} 0

node_cpu_seconds_total{cpu="0",mode="system"} 656.12

node_cpu_seconds_total{cpu="0",mode="user"} 267.1

 

#HELP：解释当前指标的含义，上面表示在每种模式下node节点的cpu花费的时间，以s为单位

#TYPE：说明当前指标的数据类型，上面是counter类型

node_cpu_seconds_total{cpu="0",mode="idle"} ：

cpu0上idle进程占用CPU的总时间，CPU占用时间是一个只增不减的度量指标，从类型中也可以看出node_cpu的数据类型是counter（计数器）

 

counter计数器：只是采集递增的指标

 

 

curl http://192.168.1.100:9100/metrics | grep node_load

# HELP node_load1 1m load average.

# TYPE node_load1 gauge

node_load1 0.1

node_load1该指标反映了当前主机在最近一分钟以内的负载情况，系统的负载情况会随系统资源的使用而变化，因此node_load1反映的是当前状态，数据可能增加也可能减少，从注释中可以看出当前指标类型为gauge（标准尺寸）

gauge标准尺寸：统计的指标可增加可减少

 

Prometheus server安装和配置

创建sa账号，对sa做rbac授权

#创建一个sa账号monitor

[root@master1 ~]# kubectl create serviceaccount monitor -n monitor-sa  

#把sa账号monitor通过clusterrolebing绑定到clusterrole上

[root@master1 ~]# kubectl create clusterrolebinding monitor-clusterrolebinding -n monitor-sa --clusterrole=cluster-admin  --serviceaccount=monitor-sa:monitor

 

创建prometheus数据存储目录

 

#在k8s集群的node1节点上创建数据存储目录

[root@node1 ~]# mkdir /data

[root@node1 ~]# chmod 777 /data/

 

安装Prometheus server服务

创建一个configmap存储卷，用来存放prometheus配置信息

#通过kubectl apply更新configmap

[root@master1 prometheus]# kubectl apply  -f  prometheus-cfg.yaml

prometheus-cfg.yaml文件内容如下：

---

kind: ConfigMap
apiVersion: v1
metadata:
  labels:
    app: prometheus
  name: prometheus-config
  namespace: monitor-sa
data:
  prometheus.yml: |
    global:
      scrape_interval: 15s  #采集目标主机监控据的时间间隔
      scrape_timeout: 10s  # 数据采集超时时间，默认10s
      evaluation_interval: 1m   #触发告警检测的时间，默认是1m

scrape_configs:     #scrape_configs：配置数据源，称为target，每个target用job_name命名。又分为静态配置和服务发现
    - job_name: 'kubernetes-node'
      kubernetes_sd_configs:  #使用的是k8s的服务发现
      - role: node  # 使用node角色，它使用默认的kubelet提供的http端口来发现集群中每个node节点。
      relabel_configs:  #重新标记
      - source_labels: [__address__]    #配置的原始标签，匹配地址
        regex: '(.*):10250'   #匹配带有10250端口的url
        replacement: '${1}:9100'  #把匹配到的ip:10250的ip保留
        target_label: __address__   #新生成的url是${1}获取到的ip:9100
        action: replace
      - action: labelmap    #匹配到下面正则表达式的标签会被保留,如果不做regex正则的话，默认只是会显示instance标签
        regex: __meta_kubernetes_node_label_(.+)

注意：Before relabeling表示匹配到的所有标签

instance="master1"

Before relabeling: 
__address__="192.168.1.100:10250"
__meta_kubernetes_node_address_Hostname="master1"
__meta_kubernetes_node_address_InternalIP="192.168.1.100"
__meta_kubernetes_node_annotation_kubeadm_alpha_kubernetes_io_cri_socket="/var/run/dockershim.sock"
__meta_kubernetes_node_annotation_node_alpha_kubernetes_io_ttl="0"
__meta_kubernetes_node_annotation_projectcalico_org_IPv4Address="192.168.1.100/24"
__meta_kubernetes_node_annotation_projectcalico_org_IPv4IPIPTunnelAddr="10.244.123.64"
__meta_kubernetes_node_annotation_volumes_kubernetes_io_controller_managed_attach_detach="true"
__meta_kubernetes_node_label_beta_kubernetes_io_arch="amd64"
__meta_kubernetes_node_label_beta_kubernetes_io_os="linux"
__meta_kubernetes_node_label_kubernetes_io_arch="amd64"
__meta_kubernetes_node_label_kubernetes_io_hostname="master1"
__meta_kubernetes_node_label_kubernetes_io_os="linux"
__meta_kubernetes_node_label_node_role_kubernetes_io_control_plane=""
__meta_kubernetes_node_label_node_role_kubernetes_io_master=""
__meta_kubernetes_node_name="master1"
__metrics_path__="/metrics"
__scheme__="http"
instance="master1"
job="kubernetes-node"

- job_name: 'kubernetes-node-cadvisor'  # 抓取cAdvisor数据，是获取kubelet上/metrics/cadvisor接口数据来获取容器的资源使用情况
      kubernetes_sd_configs:
      - role:  node
      scheme: https
      tls_config:
        ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
      bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
      relabel_configs:
      - action: labelmap  #把匹配到的标签保留
        regex: __meta_kubernetes_node_label_(.+)    #保留匹配到的具有__meta_kubernetes_node_label的标签
      - target_label: __address__     #获取到的地址：__address__="192.168.1.100:10250"
        replacement: kubernetes.default.svc:443       #把获取到的地址替换成新的地址kubernetes.default.svc:443
      - source_labels: [__meta_kubernetes_node_name]
        regex: (.+)   #把原始标签中__meta_kubernetes_node_name值匹配到
        target_label: __metrics_path__    #获取__metrics_path__对应的值
        replacement: /api/v1/nodes/${1}/proxy/metrics/cadvisor    
        #把metrics替换成新的值api/v1/nodes/master1/proxy/metrics/cadvisor 
        #${1}是__meta_kubernetes_node_name获取到的值 
        #新的url就是https://kubernetes.default.svc:443/api/v1/nodes/master1/proxy/metrics/cadvisor
    - job_name: 'kubernetes-apiserver'
      kubernetes_sd_configs:
      - role: endpoints   #使用k8s中的endpoint服务发现，采集apiserver 6443端口获取到的数据
      scheme: https
      tls_config:
        ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
      bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
      relabel_configs:
      - source_labels: [__meta_kubernetes_namespace   #endpoint这个对象的名称空间
                               ,__meta_kubernetes_service_name    #endpoint对象的服务名
                               , __meta_kubernetes_endpoint_port_name   #exnpoint的端口名称
        action: keep  #采集满足条件的实例，其他实例不采集
        regex: default;kubernetes;https   #正则匹配到的默认空间下的service名字是kubernetes，协议是https的endpoint类型保留下来
    - job_name: 'kubernetes-service-endpoints'
      kubernetes_sd_configs:
      - role: endpoints
      relabel_configs:
      # 重新打标仅抓取到的具有 "prometheus.io/scrape: true" 的annotation的端点，意思是说如果某个service具有prometheus.io/scrape = true annotation声明则抓取，
      #annotation本身也是键值结构，所以这里的源标签设置为键，而regex设置值true，当值匹配到regex设定的内容时则执行keep动作也就是保留，其余则丢弃。
      - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_scrape]
        action: keep
        regex: true
       #重新设置scheme，匹配源标签__meta_kubernetes_service_annotation_prometheus_io_scheme也就是prometheus.io/scheme annotation，
       #如果源标签的值匹配到regex，则把值替换为__scheme__对应的值。
      - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_scheme]
        action: replace
        target_label: __scheme__
        regex: (https?)
       # 应用中自定义暴露的指标，也许你暴露的API接口不是/metrics这个路径，那么你可以在这个POD对应的service中做一个"prometheus.io/path = /mymetrics" 声明，
       # 上面的意思就是把你声明的这个路径赋值给__metrics_path__，其实就是让prometheus来获取自定义应用暴露的metrices的具体路径，
       # 不过这里写的要和service中做好约定，如果service中这样写 prometheus.io/app-metrics-path: '/metrics' 那么你这里就要__meta_kubernetes_service_annotation_prometheus_io_app_metrics_path这样写。     
      - source_labels: [__meta_kubernetes_service_annotation_prometheus_io_path]
        action: replace
        target_label: __metrics_path__
        regex: (.+)
      # 暴露自定义的应用的端口，就是把地址和你在service中定义的 "prometheus.io/port = <port>" 声明做一个拼接，然后赋值给__address__，
      # 这样prometheus就能获取自定义应用的端口，然后通过这个端口再结合__metrics_path__来获取指标，
      # 如果__metrics_path__值不是默认的/metrics那么就要使用上面的标签替换来获取真正暴露的具体路径。
      - source_labels: [__address__, __meta_kubernetes_service_annotation_prometheus_io_port]
        action: replace
        target_label: __address__
        regex: ([^:]+)(?::\d+)?;(\d+)
        replacement: $1:$2
      - action: labelmap  #保留下面匹配到的标签
        regex: __meta_kubernetes_service_label_(.+)
      - source_labels: [__meta_kubernetes_namespace]
        action: replace  #替换__meta_kubernetes_namespace变成kubernetes_namespace
        target_label: kubernetes_namespace
      - source_labels: [__meta_kubernetes_service_name]
        action: replace
        target_label: kubernetes_name

#更新configmap资源

[root@master1 prometheus]# kubectl apply -f prometheus-cfg.yaml

 

通过deployment部署prometheus

安装prometheus需要的镜像prometheus-2-2-1.tar.gz在课件，上传到k8s的工作节点node1上，手动解压：

[root@node1 ~]# docker load -i prometheus-2-2-1.tar.gz

#通过kubectl apply更新prometheus

#prometheus-deploy.yaml见下方

[root@master1]# kubectl apply -f prometheus-deploy.yaml

#查看prometheus是否部署成功

[root@master1]# kubectl get pods -n monitor-sa

显示如下，可看到pod状态是running，说明prometheus部署成功

NAME                                 READY   STATUS    RESTARTS   AGE

node-exporter-9qpkd                  1/1     Running   0          76m

node-exporter-zqmnk                  1/1     Running   0          76m

prometheus-server-85dbc6c7f7-nsg94   1/1     Running   0          6m7

 

注意：在上面的prometheus-deploy.yaml文件有个nodeName字段，这个就是用来指定创建的这个prometheus的pod调度到哪个节点上，我们这里让nodeName=node1，也即是让pod调度到node1节点上，因为node1节点我们创建了数据目录/data，所以大家记住：你在k8s集群的哪个节点创建/data，就让pod调度到哪个节点，nodeName根据你们自己环境主机去修改即可。

 

prometheus-deploy.yaml文件内容如下：

---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: prometheus-server
  namespace: monitor-sa
  labels:
    app: prometheus
spec:
  replicas: 1
  selector:
    matchLabels:
      app: prometheus
      component: server
  template:
    metadata:
      labels:
        app: prometheus
        component: server
      annotations:
        prometheus.io/scrape: 'false'
    spec:
      nodeName: node1
      serviceAccountName: monitor
      containers:
      - name: prometheus
        image: prom/prometheus:v2.2.1
        imagePullPolicy: IfNotPresent
        command:
          - prometheus
          - --config.file=/etc/prometheus/prometheus.yml
          - --storage.tsdb.path=/prometheus  #旧数据存储目录
          - --storage.tsdb.retention=720h    #何时删除旧数据，默认为15天。
          - --web.enable-lifecycle   #开启热加载
        ports:
        - containerPort: 9090
          protocol: TCP
        volumeMounts:
        - mountPath: /etc/prometheus/prometheus.yml
          name: prometheus-config
          subPath: prometheus.yml
        - mountPath: /prometheus/
          name: prometheus-storage-volume
      volumes:
        - name: prometheus-config
          configMap:
            name: prometheus-config
            items:
              - key: prometheus.yml
                path: prometheus.yml
                mode: 0644
        - name: prometheus-storage-volume
          hostPath:
           path: /data
           type: Directory

 

给prometheus pod创建一个service

 

#通过kubectl apply 更新service

[root@master1]# kubectl apply -f prometheus-svc.yaml

 

prometheus-svc.yaml文件内容如下：

---
apiVersion: v1
kind: Service
metadata:
  name: prometheus
  namespace: monitor-sa
  labels:
    app: prometheus
spec:
  type: NodePort
  ports:
    - port: 9090
      targetPort: 9090
      protocol: TCP
  selector:
    app: prometheus
    component: server

#查看service在物理机映射的端口

[root@master1]# kubectl get svc -n monitor-sa

显示如下：

NAME         TYPE       CLUSTER-IP    EXTERNAL-IP   PORT(S)          AGE

prometheus   NodePort   10.96.45.93   <none>        9090:32050/TCP   50s

 

通过上面可以看到service在宿主机上映射的端口是32050，这样我们访问k8s集群的master1节点的ip:32050，就可以访问到prometheus的web ui界面了

#访问prometheus web ui界面

浏览器（推荐火狐）输入如下地址：

​​http://192.168.1.100:32050/graph​​

 

Prometheus热加载

#为了每次修改配置文件可以热加载prometheus，也就是不停止prometheus，就可以使配置生效，想要使配置生效可用如下热加载命令：

#10.244.121.4是prometheus的pod的ip地址

[root@master1 prometheus]# curl -X POST ​​http://10.244.121.4:9090/-/reload​​

线上最好热加载，暴力删除可能造成监控数据的丢失

 

可视化UI界面Grafana的安装和配置

安装Grafana

需要的镜像 heapster-grafana-amd64_v5_0_4.tar.gz

把镜像上传到k8s的工作节点node1上，手动解压：

[root@node1 ~]# docker load -i heapster-grafana-amd64_v5_0_4.tar.gz

grafana.yaml

apiVersion: apps/v1
kind: Deployment
metadata:
  name: monitoring-grafana
  namespace: kube-system
spec:
  replicas: 1
  selector:
    matchLabels:
      task: monitoring
      k8s-app: grafana
  template:
    metadata:
      labels:
        task: monitoring
        k8s-app: grafana
    spec:
      containers:
      - name: grafana
        image: k8s.gcr.io/heapster-grafana-amd64:v5.0.4
        ports:
        - containerPort: 3000
          protocol: TCP
        volumeMounts:
        - mountPath: /etc/ssl/certs
          name: ca-certificates
          readOnly: true
        - mountPath: /var
          name: grafana-storage
        env:
        - name: INFLUXDB_HOST
          value: monitoring-influxdb
        - name: GF_SERVER_HTTP_PORT
          value: "3000"
          # The following env variables are required to make Grafana accessible via
          # the kubernetes api-server proxy. On production clusters, we recommend
          # removing these env variables, setup auth for grafana, and expose the grafana
          # service using a LoadBalancer or a public IP.
        - name: GF_AUTH_BASIC_ENABLED
          value: "false"
        - name: GF_AUTH_ANONYMOUS_ENABLED
          value: "true"
        - name: GF_AUTH_ANONYMOUS_ORG_ROLE
          value: Admin
        - name: GF_SERVER_ROOT_URL
          # If you're only using the API Server proxy, set this value instead:
          # value: /api/v1/namespaces/kube-system/services/monitoring-grafana/proxy
          value: /
      volumes:
      - name: ca-certificates
        hostPath:
          path: /etc/ssl/certs
      - name: grafana-storage
        emptyDir: {}
---
apiVersion: v1
kind: Service
metadata:
  labels:
    # For use as a Cluster add-on (https://github.com/kubernetes/kubernetes/tree/master/cluster/addons)
    # If you are NOT using this as an addon, you should comment out this line.
    kubernetes.io/cluster-service: 'true'
    kubernetes.io/name: monitoring-grafana
  name: monitoring-grafana
  namespace: kube-system
spec:
  # In a production setup, we recommend accessing Grafana through an external Loadbalancer
  # or through a public IP.
  # type: LoadBalancer
  # You could also use NodePort to expose the service at a randomly-generated port
  # type: NodePort
  ports:
  - port: 80
    targetPort: 3000
  selector:
    k8s-app: grafana
  type: NodePort

更新yaml文件：

[root@master1 prometheus]# kubectl apply -f grafana.yaml

#查看grafana是否创建成功：

[root@master1 prometheus]# kubectl get pods -n kube-system -l task=monitoring

显示如下，说明部署成功

NAME                                  READY   STATUS    RESTARTS   AGE

monitoring-grafana-675798bf47-cw9hr   1/1     Running   0          39s