现在的公司由于绝大部分项目都采用分布式架构,很早就采用ELK了,只不过最近因为额外的工作需要,仔细的研究了分布式系统中,怎么样的日志规范和架构才是合理和能够有效提高问题排查效率的。经过仔细的分析和研究,确定下面的架构应该是比较合理的之一(Filebeat也支持直接写到ES),如果可以的话,Filebeat也可以不直接连到Logstash,先写到kafka,然后从kafka写到logstash的ka            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-18 14:22:26
                            
                                31阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            本文中日志管理系统relk分别为.zip,kibana-4.3.1-windows(kibana-4.3.1-linux-x64.tar.gz),jdk1.7+这里我们使用的是我们分别在win7及centos7系统下搭建:需要到相应os系统下的,分别到相应的模块下参考下。(另:本人的开发环境为win7,ES、Kibana等是通过HTTP协议访问,没有用户权限管理,生产地址不允许外部访问。可以通过N            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-30 21:11:54
                            
                                130阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             (一)   安装环境VMware® Workstation 12 Pro,安装到物理机的话还需要做个U盘启动盘(二)   下载    如果不清楚要用哪个ISO文件,下载DVD ISO就行了,这个类型的镜像文件允许你自己选择需要安装的软件,everythin 一般是系统管理员才会用到。(三)   安            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-07 18:32:09
                            
                                66阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            进入到了Linux系统学习之后,总体来说之前还是挺顺畅的,比如各种命令敲入后都会得到相应的效果。。。。但是今天在学习Linux的挂载命令mount时可是着实让我郁闷了很久,大概花了2个小时,各种google、baidu都发现没有找到解决方法。。。最后却是无意中的一次怪招使得问题一下豁然开朗,故在此专为mount命令写篇随笔。一、mount 命令首先简单介绍一下 mount在Linux系统中,如果要            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-06 19:54:46
                            
                                125阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            实验环境   环境:centos7.3 ,一块磁盘sdb分一个分区sdb1。   安装磁盘配额支持软件   yum install quota   制作文件系统,并以支持配额功能的方式挂载文件系统   mkfs.ext4 /dev/sdb1mount /dev/sdb1 /tmpmount -o remount,usrquota,grpquota /dev/sdb1   查看磁盘挂载时是否启            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-27 08:43:10
                            
                                119阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一. 挂载存储媒体     linux文件系统将所有的磁盘都并入一个虚拟目录下,当使用新的存储媒体之前,需要把它放到虚拟目录下,这项工作称为挂载(mounting)  1.1 mount 命令     在linux上用来挂载媒体的命令叫做mount. 默认情况下,mount命令会输出当前系统上的挂载的设备列表。  1.2 umont     要除移可移动设备时,不能直接从系统上            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-19 17:00:58
                            
                                672阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1  概述    日志管理工具journalctl是centos7上专有的日志管理工具,该工具是从message这个文件里读取信息。Systemd统一管理所有Unit的启动日志。带来的好处就是,可以只用journalctl一个命令,查看所有日志(内核日志和应用日志)。
    日志的配置文件是:    /et            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-04 11:04:51
                            
                                832阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # 从头开始学习如何在CentOS7上查看日志
作为一名经验丰富的开发者,我们经常需要查看系统或应用程序的日志来调试和解决问题。在CentOS7上,通过命令来查看日志是一种常见且方便的方式。下面我将向您展示如何在CentOS7上查看日志,并解释每一步骤所需的代码及其作用。
## 步骤概览
为了更清晰地指导小白同学,下面是我们完成"centos7 查看日志"的步骤概览表格:
| 步骤   |            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-05-20 10:33:27
                            
                                869阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            基本情况介绍: 两个进程 进程一: rsyslogd 系统日志管理 主要得作用是: 收集哪类程序得哪种级别得日志,并为其找个位置 进程二: logrotate 日志轮询 主要得作用是: 对产生得日志进行自定义管理(日志文件得大小、如何删除已产生得日志等)rsyslogd : centos7 系统默认已安装得服务 启动方式 systemctl status rsyslog /etc/rsyslog            
                
         
            
            
            
            # cat access_log | awk '{print $1}'|sort|uniq -c |sort -n
  或者
  # cat access_log | awk '{print $1}'| sort -n | awk '{S[$NF]++}END {for(a in S) {print a "\t" S[a]}}' | sort +1 -2nr
  解释:
  awk ‘{print            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-12 22:03:35
                            
                                615阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Linux Centos7操作一 常用命令1简单命令2 文件操作2.1命令三种模式2.1vi 命令g功能快捷键3 日志操作3.1 tail命令4 创建用户5 后台服务管理二 环境配置1 注意事项1.1 在windows系统上确认所有的VMware服务已启动1.2 确认好VMware生成好的网关地址1.3 确认VmNet8网卡已经设置好了IP地址了DNS2 复制虚拟机2.1 将虚拟机文件夹复制三份            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-02-23 10:23:25
                            
                                248阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            设备文件在Linux上是访问不到的,必须链接到目录树上才可以进行访问。命令格式 mount [option] 设备 目录注:mount只是临时配置,永久配置需要到/etc/fstab文件下修改配置 2.永久配置 vi /etc/fstab 格式如下:fstab配置文件详解:/dev/sdb1:设备名/mnt:设备挂载目录ext4 :设备文件系统 dafaults:使用文件系统的默认挂载参数,例如            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-22 11:46:08
                            
                                107阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录实验目的实验环境一、前情提要二、服务节点部署1.环境准备2.Elasticsearch(实时全文搜索和分析引擎)3.Kibana(基于Web的图形界面)4.Logstash(搜集、分析、过滤日志的工具)5.数据传递 实验目的1、基本掌握Linux下安装、删除软件的三种方法。 2、安装ELK平台必要JAVA环境,使用第2中或第            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-12 15:03:35
                            
                                193阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1.首先从官网下载solr,链接https://lucene.apache.org/solr/downloads.htmlscp上传到linux服务器指定文件夹解压到当前文件夹:tar zxvf solr-8.4.1.tgz -C ./2.solr需要手动导入一些jar包(solr-8.4.1/为安装路径)solr-8.4.1/dist目录下有两个solr-dataimporthandler的ja            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-02 13:45:28
                            
                                59阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            CentOS 7日志服务CoentOS 7日志服务主要由rsyslog和journalctl两个组件来处理和管理系统日志。rsyslogrsyslog是一种功能强大的系统日志守护进程,用于接收、处理和转发日志消息。它是Linux和Unix系统中广泛使用的日志服务,包括在CentOS、Ubuntu和其他许多Linux发行版中。以下是rsyslog的主要特点和功能:日志接收和处理:rsyslog能够接            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-04 12:31:36
                            
                                64阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            前言在一些比较重要的服务器上面,我们可能需要记录文件的变化或者执行了什么命令,这时候就会用到audit审计日志。auditdauditd是Linux审计系统中用户空间的一个组件,负责将审计记录写到磁盘中。在CentOS7上默认就会有安装这个服务。如果被卸载,可以直接使用yum进行安装:yum -y install audit auditd-libs相关命令1、auditctl : 即时控制审计守护            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-04 17:08:39
                            
                                231阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            centos7下查看tomcat是否启动/系统日志等 方法一:首先,进入Tomcat下的bin目录cd /usr/local/tomcat/bin使用Tomcat关闭命令./shutdown.sh查看Tomcat是否以关闭ps -ef|grep java如果显示以下相似信息,说明Tomcat还没有关闭root      7010
     1  0 Apr19 ?        00:3            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-07 14:30:04
                            
                                142阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一、环境介绍:  服务器:centos 192.168.1.225  客户端:centos 192.168.1.226 二、安装:NFS的安装配置:centos 5 :yum -y install nfs-utils portmapcentos 6(在CentOS 6.3当中,portmap服务由rpcbind负责) :yum -y install nfs-utils rpcb            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-03 22:22:56
                            
                                72阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1.查看日志常用命令tail:-n 是显示行号;相当于nl命令;例子如下:tail -100f test.log 实时监控100行日志tail -n 10 test.log 查询日志尾部最后10行的日志;tail -n +10 test.log 查询10行之后的所有日志;head:跟tail是相反的,tail是看后多少行日志;例子如下:head -n 10 test.log 查询日志文件中的头10            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-02 12:43:42
                            
                                222阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            服务器端修改配置文件/etc/rsyslog.conf中$ModLoad imudp
$UDPServerRun 514打开日志服务监听 修改/etc/sysconfig/rsyslog文件SYSLOGD_OPTIONS="-m240 -r"其中-r表示接受外部日志写入防火墙开启端口firewall-cmd --zone=public --add-port=514/udp重启服务systemctl            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-02-22 01:50:47
                            
                                170阅读