智能日志系统架构图日志管理功能

转载

小屁孩 2023-12-03 20:35:32

文章标签 智能日志系统架构图日志文件 mysql analyzer 文章分类 架构后端开发

日志对于系统和服务安全来说非常重要，它记录了系统每天发生的各种各样的事情，你可以通过他来检查并排除错误发生的原因，或者受到攻击时攻击者留下的痕迹。日志主要的功能有：审计和监测。他还可以实时的监测系统状态，监测和追踪侵入者等等。本篇会比较详细的介绍有关Linux日志管理相关的基础介绍和技巧、工具，帮助Linux系统管理员们掌握日志的使用，用好日志可以更好的进行日常的工作的处理。

日志管理rsyslog介绍

智能日志系统架构图日志管理功能_智能日志系统架构图

C/S架构：通过TCP或UDP协议的服务完成日志记录传送，将分布在不同主机的日志实现集中管理

rsyslog特性：

多线程
UDP, TCP, SSL, TLS, RELP
MySQL, PGSQL, Oracle实现日志存储
强大的过滤器，可实现过滤记录日志信息中任意部分
自定义输出格式

（ELK：elasticsearch, logstash, kibana ：非关系型分布式数据库，Elasticsearch是个开源分布式搜索引擎，功能更加强大Logstash对日志进行收集、分析，并将其存储供以后使用，并且kibana 可以提供的日志分析友好的 Web 界面，后面会详细介绍）

日志类型（facility）：

智能日志系统架构图日志管理功能_mysql_02

日志优先级（优先级由高到低，资源耗费由高到低）

程序包：rsyslog ，端口默认514

主程序：/usr/sbin/rsyslogd

配置文件：/etc/rsyslog.conf，/etc/rsyslog.d/*.conf  库文件： /lib64/rsyslog/*.so

配置文件格式：由三部分组成

MODULES：相关模块配置
GLOBAL DIRECTIVES：全局配置
RULES：日志记录相关的规则配置

智能日志系统架构图日志管理功能_analyzer_04

RULES配置格式： facility . priority; facility.priority… target

facility：

*: 所有的 facility
facility1,facility2,facility3,...：指定的facility列表

priority：

*：所有级别
none：没有级别，即不记录
PRIORITY：指定级别（含）以上的所有级别
=PRIORITY：仅记录指定级别的日志信息

target：文件路径：通常在/var/log/

文件路径前的"-"表示异步写入
user(如root heiye)：将日志事件通知给指定的用户
* 表示登录的所有用户
日志服务器：@host，把日志送往至指定的远程服务器记录(udp),@@表示tcp协议传输
管道： | COMMAND，转发给其它命令处理

智能日志系统架构图日志管理功能_日志文件_05

配置rsyslog成为日志服务器

#### MODULES ####

#Provides UDP syslog reception

$ModLoad imudp

$UDPServerRun 514

# Provides TCP syslog reception

$ModLoad imtcp

$InputTCPServerRun 514 （打开模块注释即可启用）

其它的日志文件

/var/log/secure：系统安装日志，文本格式，应周期性分析
/var/log/btmp：当前系统上，用户的失败尝试登录相关的日志信息，二进制格式，lastb命令进行查看
/var/log/wtmp：当前系统上，用户正常登录系统的相关日志信息，二进制格式，last命令可以查看
/var/log/lastlog:每一个用户最近一次的登录信息，二进制格式，lastlog命令可以查看
/var/log/dmesg：系统引导过程中的日志信息，文本格式文本,可用查看工具查看或专用命令dmesg查看
/var/log/messages ：系统中大部分的信息
/var/log/anaconda : anaconda的日志

Systemd 统一管理所有 Unit 的启动日志。只用journalctl一个命令查看所有日志（内核日志和应用日志）。配置文件/etc/systemd/journald.conf

journalctl用法

智能日志系统架构图日志管理功能_智能日志系统架构图_06

智能日志系统架构图日志管理功能_日志文件_07

查看所有日志（默认情况下 ，只保存本次启动的日志） journalctl

查看内核日志（不显示应用日志） journalctl -k

查看系统本次启动的日志 journalctl -b journalctl -b -0

查看上一次启动的日志（需更改设置） journalctl -b -1

查看指定时间的日志

journalctl --since="2017-10-30 18:10:30"
journalctl --since "20 min ago"
journalctl --since yesterday
journalctl --since "2017-01-10" --until "2017-01-11 03:00"
journalctl --since 09:00 --until "1 hour ago"
显示尾部的最新10行日志 journalctl -n

显示尾部指定行数的日志 journalctl -n 20

实时滚动显示最新日志 journalctl -f

查看指定服务的日志 journalctl /usr/lib/systemd/systemd

查看指定进程的日志 journalctl _PID=1

查看某个路径的脚本的日志 journalctl /usr/bin/bash

查看指定用户的日志 journalctl _UID=33 --since today

查看某个 Unit 的日志 journalctl -u nginx.service journalctl -u nginx.service --since today

实时滚动显示某个 Unit 的最新日志 journalctl -u nginx.service -f

合并显示多个 Unit 的日志 journalctl -u nginx.service -u php-fpm.service --since today 13 日志管理journalctl

查看指定优先级（及其以上级别）的日志，共有8级 0: emerg 1: alert 2: crit 3: err 4: warning 5: notice 6: info 7: debug journalctl -p err -b

日志默认分页输出，--no-pager

改为正常的标准输出 journalctl --no-pager

以 JSON 格式（单行）输出 journalctl -b -u nginx.service -o json

以 JSON 格式（多行）输出，可读性更好 journalctl -b -u nginx.serviceqq -o json-pretty

显示日志占据的硬盘空间 journalctl --disk-usage

指定日志文件占据的最大空间 journalctl --vacuum-size=1G

指定日志文件保存多久 journalctl --vacuum-time=1years

View Code